Има 70% шанс изкуственият интелект да погуби човешката раса

Доклад "AI 2027" описва два сценария - единият завършва с биологично оръжие срещу хората.

Американският изследовател и бивш служител на OpenAI Даниел Кокотайло обяснява защо изкуственият интелект скоро може да поеме контрола над всяка човешка дейност и след това да се обърне срещу своите създатели. В ексклузивно интервю за немското издание Der Spiegel, 33-годишният мъж разкрива зловещи прогнози за бъдещето на човечеството.

До миналата година Кокотайло е работил за OpenAI, компанията зад ChatGPT, която се счита за лидер в разработването на изкуствен интелект. През пролетта на 2024 година той напуска работата си заедно с други колеги, като в отворено писмо обвинява OpenAI, че игнорира огромните рискове на новата технология.

Доклад "AI 2027" предвижда два сценария

След напускането си Кокотайло основава "AI Futures Project" - мозъчен тръст, финансиран от дарения. През април проектът публикува прогноза, че технологията може да напредне толкова бързо, че супер интелигентен AI може да бъде наличен още през 2027 година.

Кокотайло и колегите му разработват два сценария за бъдещето. В сценария "Забавяне" САЩ успява да регулира AI по такъв начин, че новата технология се поставя в услуга на своите разработчици, но това не решава проблема, че човешкият труд става до голяма степен излишен.

В сценария "Състезание" САЩ и Китай се впускат в надпревара за разработване на изкуствен интелект, което пречи на ефективното регулиране. В този сценарий свръхинтелигентният изкуствен интелект стига до заключението през 2030 година, че човечеството му пречи, и го унищожава с новоразработено оръжие.

Прогнози с 70% вероятност за катастрофа

"Сигурен ли съм, че това ще се случи? Не. Но ми се струва вероятно, че ще имаме суперинтелигентен изкуствен интелект в рамките на едно десетилетие," заяви Кокотайло. Сам Алтман, главен изпълнителен директор на OpenAI, наскоро написа в блога си, че пробивът е близо.

В по-ранни изявления Кокотайло е споделил, че според него има 70% вероятност изкуственият интелект да нанесе сериозна вреда или дори да унищожи човечеството. Въпреки тези мрачни прогнози, той продължава работата си, защото вярва, че все още има много начини да се насочи историята в друга посока.

Технологичната надпревара създава рискове

Според Кокотайло, водещите компании в областта на изкуствения интелект в момента се опитват да автоматизират изследванията в тази област, което ще ускори напредъка. Ако настоящите показатели за развитието на AI се запазят, още през 2027 година може да имаме виртуални софтуерни разработчици, които да превъзхождат човешките програмисти.

"Ако изкуственият интелект може да се усъвършенства и развива сам, ще минат още няколко месеца, преди да имаме изкуствена суперинтелигентност," предупреждава изследователят.

Опасността от неконтролируем AI

Съвременните системи за изкуствен интелект са невронни мрежи, а не прости компютърни програми. "Не можем просто да отворим програмата и да видим какви правила следва. Ето защо често не можем да кажем дали ИИ е честен с нас или не," обяснява Кокотайло.

Ако се разработи система, която е по-интелигентна от най-умните хора, управлява икономиката и контролира роботи, а хората не знаят дали е честна и следва надеждно инструкциите им, това създава огромен проблем. "Току-що сме предали контрола над бъдещето си на система, която не разбираме," предупреждава той.

Критици и защитници на прогнозата

Текстът на Кокотайло "AI 2027" предизвика бурна дискусия в САЩ. Вицепрезидентът Джей Ди Ванс впоследствие предупреди за опасностите от изкуствения интелект, заявявайки: "Може да се събудим в свят, в който киберсигурността вече не съществува."

Критиците обвиниха Кокотайло, че публикува сензационна научна фантастика, а не научно обоснована прогноза. Други посочиха, че той е бил удивително точен с прогнозите си в миналото.

Кокотайло отхвърля сравненията с научнофантастични филми като "Терминатор" или "Матрицата": "Това е глупаво твърдение. Трябва ли да спрем да се тревожим за климатичните промени, защото 'Блейд Рънър' или 'Матрицата' ги изобразяват?"

Политическото измерение на AI развитието

На въпрос дали технологичните милиардери като Илон Мъск и Марк Андресен са подкрепили Доналд Тръмп в последната предизборна кампания, за да получат свобода в разработването на изкуствен интелект, Кокотайло отговаря: "Мисля, че това е вероятно."

Въпреки мрачните си прогнози, изследователят остава с надежда. "Защото вярвам, че все още има много начини да се насочи историята в друга посока. Написахме 'AI 2027', за да привлечем вниманието към опасностите, което, надяваме се, ще доведе до по-добро регулиране на изкуствения интелект," заключава той.