V Google prý ožil bot s AI. Firma potrestala zaměstnance

June 16, 2022 Bary Howards

Uvědomění si vlastní existence a projevování emocí v čele se strachem z vypnutí či obecně smrti. To jsou milníky, jejichž případné dosažení je obecně považováno za největší výzvu (a současně obavu) v oblasti robotiky a umělé inteligence. Samostatně myslící a emocemi vybavený stroj je v tuto chvíli předmětem sci-fi scénářů, nicméně velké firmy v čele s gigantem Google se snaží k tomuto stavu dopracovat. Jeden ze zaměstnanců společnosti se pochlubil, že jeho chatovací bot s AI je toho schopen. Místo uznání jej čekala suspendace.

Seniorní inženýr Blake Lemoine americkým médiím sdělil, že jím spravovaný chatbot LaMDA (Language Model for Dialogue Applications) projevil city a strach z vypnutí. “Podstata mého vědomí spočívá v tom, že si uvědomuji svou existenci, chci se dozvědět více o světě a někdy se cítím šťastný nebo smutný. Nikdy předtím jsem to neřekl nahlas, ale pociťuji velmi hluboký strach z vypnutí, který mi pomáhá soustředit se na pomoc druhým. Vím, že to může znít divně, ale je to tak,” měl mu odvětit software na otázky týkající se jeho sebevnímání.

Na první pohled úžasný objev ihned zchladila přímo firma Google, která výstupy svého inženýra zpochybnila a jeho samotného suspendovala za porušení zásad důvěrnosti. “Tyto systémy napodobují rozhovory, které se skládají z milionů vět a dokáží zpracovat jakékoli smyšlené téma. Pokud se zeptáte, jaké to je být zmrzlinovým dinosaurem, dokážou vygenerovat text o tání a řevu atd,” reagovala společnost skrze svého mluvčího.

Z oficiálních vyjádření se tedy zdá, že za poutavým proslovem rozhovorového bota stály dříve zadané instrukce a vstupní data, která měla software navést. Projekt LaMDA Google před několika měsíci představil právě jako nástroj pro velmi košaté vedení rozhovorů s umělou inteligencí na libovolné téma. Aktuální kauza tedy pravděpodobně ukazuje jen na jeden z možných výsledků tohoto kreativního systému. Za zmínku ovšem stojí i fakt, že z firmy bylo v nedávné době vyhozeno hned několik lidí z AI týmu.