IT osobnosti vyzvali k pozastaveniu vývoja AI

Cez tisíc IT osobnosti a odborníkov na umelú inteligenciu (AI) žiada v otvorenom liste o polročné pozastavenie ďalšieho vývoja umelej inteligencie (AI), ktorá by bola na vyššej úrovni ako nástroj GPT-4 od OpenAI. Majú totiž obavy z rizík, ktoré by mohla priniesť. Medzi signatármi výzvy je podľa portálu GizChina aj CEO Tesly Elon Musk.

Umelá inteligencia môže byť dobrý sluha a aj zlý pán

Nástroj ChatGPT od spoločnosti OpenAI spôsobil tento rok v IT revolúciu. Aj keď sa samozrejme o ňom stále nedá hovoriť ako o skutočnej umelej inteligencii, tak sa jej svojimi algoritmami strojového učenia blíži. Okamžite sa totiž stál užitočným pomocníkom vo viacerých profesiách. Zároveň však veľa odborníkov už dlhšie varuje pred rizikami, ktoré by jeho vývoj mohol priniesť.

Okrem obáv, že by kvôli AI mohli časom ľudia rôznych zamestnaní prísť o prácu, sa hovorí o jej zneužívaní k nekalostiam. Zatiaľ čo študenti už využívajú ChatGPT k tomu, aby za nich vytvoril seminárne alebo diplomové práce, tak internetoví podvodníci s jeho pomocou zdokonaľujú phishing. Mohol by taktiež byť zneužívaní k iným kybernetickým zločinom alebo tvorbe dezinformácií nedemokratickými režimami.

IT odborníci  žiadajú implementovanie bezpečnostných protokolov pri vývoji AI

Rizika teraz spomína v otvorenom liste aj nezisková organizácia Future of Life Institute. List podpísalo viac ako tisíc osobností zo sveta IT. V liste  spoločne vyzývajú k polročnému pozastaveniu vývoja pokročilej umelej inteligencie (AI), kým nebudú implementované súvisiace bezpečnostné protokoly. Pokročilý AI systém by totiž mohol v budúcnosti pre spoločnosť predstavovať potencionálne rizika.

Signatári vyzývajú vývojárov k spolupráci s regulačnými orgánmi, aby sa spoločnosť mohla na príchod umelej inteligencie pripraviť. Jej vývoj sa totiž v posledných mesiacoch značne urýchlil. Medzi podpísanými je napríklad spoluzakladateľ Applu Steve Wozniak,  Emad Mostaque zo Stability IO, či kľúčové postáv vývoja AI Joshua Bengio a Stuart Russell.

Neznámejšie meno je určite Elon Musk, ktorého automobilka Tesla využíva AI respektíve algoritmy strojového učenia v autonómnom riadení svojich elektromobilov. Sam Altman, výkonný riaditeľ OpenAI, list nepodpísal a na žiadosť agentúry Reuters o reakciu zatiaľ neodpovedal. A čo si výzve IT osobnosti myslíte vy? Patríte k ľudom, ktorí majú obavy z vývoja umelej inteligencie?