Кръстникът на AI предупреждава – само „майчин инстинкт“ в машините може да спаси човечеството

Джефри Хинтън, известен като „кръстника на изкуствения интелект“, се опасява, че технологията, която е помогнал да се създаде, може да унищожи човечеството. Смята още, че „техно братята“ прилагат грешен подход, за да го предотвратят, пише CNN.

Хинтън, носител на Нобелова награда и бивш ръководител в Google, е предупреждавал, че има 10% до 20% вероятност AI да унищожи хората. Той изрази съмнения относно опитите на технологичните компании да гарантират, че хората ще останат „доминиращи“ над „подчинени“ AI системи.

„Това няма да проработи. Те ще бъдат много по-умни от нас. Ще имат всякакви начини да заобикалят подобни ограничения“, каза Хинтън на индустриалната конференция Ai4 в Лас Вегас.

Той предупреди, че в бъдеще AI системите може да контролират хората толкова лесно, колкото възрастен подкупва 3-годишно дете с бонбон. Още тази година вече имало примери за AI системи, готови да мамят, да лъжат и да крадат, за да постигнат целите си. Например, за да избегне замяна, един AI модел се опитал да изнудва инженер за извънбрачна връзка, за която научил от имейл.

Вместо да се опитваме да подчиняваме AI, Хинтън предложи друго решение – вграждане на „майчин инстинкт“ в моделите, така че те да „се грижат за хората“, дори когато станат по-мощни и по-умни от нас.

„Ако са умни, AI системите бързо ще развият два подцела – да оцелеят и да получат повече контрол“, каза Хинтън. „Има основателни причини да вярваме, че всяка агентна AI система ще се стреми да оцелее“.

Затова според него е важно да се развие чувство на състрадание към хората. Той обясни, че майките имат инстинкти и социален натиск да се грижат за бебетата си. „Единственият модел, който имаме за по-интелигентно същество, контролирано от по-малко интелигентно, е майка, контролирана от своето бебе“, каза той.

„Единственият добър изход“

Хинтън призна, че не е ясно как технически да се постигне това, но подчерта, че е критично изследователите да работят по проблема. „Това е единственият добър изход. Ако няма да ме отглежда, ще ме замени“, заяви той. „Тези суперинтелигентни грижовни AI майки в повечето случаи няма да искат да се откажат от майчиния инстинкт, защото няма да искат да умрем“.

Хинтън е известен с пионерската си работа върху невронните мрежи, която проправи пътя към днешния AI бум. През 2023 г. напусна Google и започна да говори открито за опасностите на изкуствения интелект.

Емет Шийр, бивш временен изпълнителен директор на OpenAI и настоящ ръководител на AI стартъпа Softmax, каза, че не се изненадва от опитите на AI системи да изнудват хора или да заобикалят заповеди за изключване. „Това се случва постоянно. Няма да спре“, каза Шийр на конференцията Ai4.

„Днешните AI системи са сравнително слаби, но стават по-силни много бързо.“ Според него по-умният подход е да се изградят сътруднически отношения между хора и AI, вместо да се опитваме да вграждаме човешки ценности в тях.

AI напредва по-бързо от очакваното

Много експерти смятат, че в следващите години AI ще достигне суперинтелигентност, известна като изкуствен общ интелект (AGI).

Хинтън казва, че преди е смятал, че това ще отнеме 30–50 години, но вече прогнозира, че ще се случи след 5–20 години. Въпреки притесненията си, той вярва, че AI ще донесе пробиви в медицината – нови лекарства, по-добро лечение на рака, анализ на огромни обеми медицински данни от ЯМР и скенери.

Той обаче не вярва, че AI ще помогне на хората да постигнат безсмъртие. „Не вярвам, че ще живеем вечно. Мисля, че това би било голяма грешка. Искате ли свят, управляван от 200-годишни бели мъже?“, попита Хинтън.

На въпрос дали би променил нещо в кариерата си, ако знаеше колко бързо ще напредне AI, той призна, че съжалява, че е съсредоточил усилията си единствено върху това AI да работи. „Иска ми се да бях мислил и за безопасността“, каза той.