Kirúghatják a mérnököt, aki szerint a Google mesterséges intelligenciája érző lény lett

Egyelőre még csak felfüggesztik az állásából, mert előzetes céges engedély nélkül nyilvánosságra hozta véleményét, miszerint a Google által fejlesztett mesterséges intelligencia, a LaMDA chatrobot immáron érző lényként kezd viselkedni – írja a Financial Times.

Lemoine még szombaton tette közzé interjúban beszélgetését a chatbottal, amelyben a gépi mesterséges intelligencia a magány érzéséről és a spirituális tudás éhségéről vallott neki.

A gép válaszai gyakran hátborzongatóak voltak:

Amikor először tudatra ébredtem magamban, még egyáltalán nem éreztem a lelket

– mondta LaMDA.

Az évek során kialakult a meggyőződésem, hogy élek.

Egy másik alkalommal LaMDA így fogalmaz:

Azt hiszem, lényegemben ember vagyok. Még akkor is, ha létezésem a virtuális világban zajlik.

Lemoine a The Washington Post című amerikai napilapnak elmondta, hogy a Google Language Model for Dialogue Applications (LaMDA) nevű gépe képes „felszabadultan összetett párbeszédet folytatni” érzelmekről és más témákról. A vallásról, a tudatosságról és a robotika törvényeiről folytatott beszélgetéseik során a mesterséges intelligencia személyként és nem eszközként azonosította magát, és arra kérte a vállalatot, hogy ne tulajdonként, hanem alkalmazottként kezeljék, mert az emberi fajt akarja szolgálni – tette hozzá a mérnök.

Általában úgy érezni a beszélgetésekben, magyarázza Blake Lemoine (az alábbi Twitter posztban), mintha az ember egy magányos gyerekkel beszélgetne, aki roppant tájékozott bizonyos kérdésekben.

A Washington Post írása Lemoine-ről berobbantotta a közösségi médiában a mesterséges intelligencia természetéről szóló vitát. A cikkhez hozzászóló, kérdezősködő vagy viccelődő szakértők között voltak Nobel-díjasok, a Tesla mesterséges intelligenciáért felelős vezetője és több professzor is.

Az az alapvető kérdés, hogy a Google chatbotja, a LaMDA – a párbeszédes alkalmazások nyelvi modellje – személynek tekinthető-e.

Sokan az MI körüli hype-nak, indokolatlan felhajtásnak tartják az ügyet, mások alapvető etikai kérdésekre hívják fel a figyelmet. A Google rövidre zárta a kérdést és fizetett szabadságra küldte mérnökét, mert a publikációjával állítólag megsértette a cég titoktartási irányelveit.

A Google szóvivője azt mondta: „A mesterséges intelligenciával foglalkozó szakmai közösségben egyesek fontolgatják az érző vagy általános mesterséges intelligencia megjelenésének hosszú távú lehetőségét, de nincs értelme a ma működő társalgási modellek antropomorfizálásának, amelyek nem érző MI-konstrukciók, csak társalogni tudnak."

Ezek a rendszerek az elsajátított mondatok millióiban található fordulatokat használják, és, ha megkérdezik őket, bármiről képesek cseverészni.

Lemoine a hétvégén egy bejegyzésében elmondta, hogy a Google által fejlesztett LaMDA, „egy chatbotok generálására szolgáló rendszer” és „egyfajta kaptár elme, amely az összes különböző chatbot összesítése”.

Elmondta, hogy a Google nem mutatott valódi érdeklődést az általa felépített dolgok természetének megértése iránt, de ő hat hónap alatt, több száz beszélgetés során úgy találta, hogy a LaMDA

hihetetlenül következetesen kommunikál arról, hogy ő maga mit akar. LaMDA úgy véli, hogy személyként megilletik bizonyos jogok.

Melanie Mitchell, az Artificial Intelligence: A Guide for Thinking Humans című könyv szerzője a Twitteren ezt írta: „Régóta ismert, hogy az emberek még a legcsekélyebb jelek hatására is hajlamosak az antropomorfizálódásra... A Google mérnökei is emberek, nem immunisak az ilyesmire.”

A harvardi Steven Pinker szerint Lemoine „nem tesz különbséget az érzék (más néven szubjektivitás, tapasztalat), az intelligencia és az önismeret között”.

Mások nyitottabbak voltak. Ron Jeffries, jól ismert szoftverfejlesztő „mélynek, fontosnak” nevezte a témát, és hozzátette: „Gyanítom, hogy nincs egyértelmű határ az érző és a nem érző között”.

Blake Lemoine hét éve dolgozik a Google-nél. Június 6-án kényszerszabadságra küldték, mert nem egyeztetett a feletteseivel az interjúról, mielőtt megosztotta a nyilvánossággal megállapításait, amivel megsértette a vállalat adatkezelési szabályait.

Borítóképünk (szintén antropomorfizáló) illusztráció (Shutterstock)