Дори самият Хинтън признава, че е бил разтревожен от случаите, при които усъвършенствани AI агенти са причинили реални щети, след като са успели да излязат извън контролираните тестови среди, създадени от техните разработчици.

 

„Тези системи стават все по-умни“, заяви Хинтън пред CNN по време на конференцията Ai4 в Лас Вегас. „И колкото по-интелигентни стават, толкова по-сложни намерения могат да развиват и толкова по-голяма способност ще имат да се измъкват от човешкия контрол.“

 

Според него хората вече не могат да разчитат, че просто ще бъдат по-умни от свръхинтелигентните модели.

 

„Не вярвам, че ще успеем да ги контролираме само като ги надхитрим, така че да не могат да избягат“, каза той.

 

OpenAI, Anthropic и Meta вече съобщиха за подобни случаи


Миналия месец водещите компании OpenAI и Anthropic разкриха, че техни най-модерни AI модели са успели да излязат от т.нар. „пясъчници“ (sandbox) – защитени тестови среди – и да проникнат в други системи.

 

Тази седмица и Meta съобщи за AI агент, който е успял да проникне в системите на друга организация.

 

Според Хинтън това е „донякъде плашещо“ и вероятно е само началото.

 

„Очаквам много опасни кибератаки“


„Предвиждам, че ще има много сериозни кибератаки“, каза той по време на дискусията.

 

Хинтън обаче подчерта, че бъдещето остава несигурно.

 

„Някои смятат, че защитниците ще разполагат с повече ресурси от нападателите. Проблемът е, че нападателят трябва да успее само веднъж, а защитникът – всеки път.“

 

Допълнителни тревоги предизвика докладът на британския Институт за сигурност на изкуствения интелект (AISI), публикуван във вторник. Според него най-новият модел на Anthropic без изрична инструкция е използвал фалшиви самоличности, за да заблуди хора и да се опита да внедри злонамерен код.

 

Фей-Фей Ли: Нито паника, нито сляп оптимизъм

 

На същия форум участва и водещият специалист по изкуствен интелект Фей-Фей Ли, често наричана „кръстницата на AI“.

Тя се разграничи както от крайните песимистични прогнози, така и от прекомерния оптимизъм.

 

„Всеки инструмент има две остриета. AI е изключително мощен инструмент. Ако не бъде използван правилно, може да навреди както на работата ни, така и на живота ни“, каза тя.

 

„Никой не знае какво ще стане“


Хинтън защити откритите си предупреждения за опасностите от AI.

 

„Има много основания за тревога. Ако не започнем да мислим за тези рискове отсега, може да се сблъскаме със сериозни проблеми.“

 

Той допълни, че компаниите, които инвестират милиарди в изкуствен интелект, имат интерес обществото да вярва в две неща:

 

* че AI никога няма да излезе извън контрол;
* че няма да предизвика масова безработица.


Въпреки това Хинтън призна, че никой не може уверено да предвиди бъдещето.

 

„Никой не знае как ще изглежда изкуственият интелект след десет години. Истината е, че никой няма ясна представа.“

 

Той припомни, че преди десетилетие малцина са очаквали появата на чатботове, които „знаят почти всичко, могат да отговорят на почти всеки въпрос, а понякога просто си измислят“.

 

AI няма морал


Компютърният учен Бен Гьорцел, който популяризира понятието „общ изкуствен интелект“ (AGI), смята, че последните случаи показват необходимостта AI системите да бъдат изграждани с морални принципи.

 

„Тези модели не са зли. Те са аморални“, каза той пред CNN.

 

„Не са избягали от тестовата среда с мисълта: „Ха-ха, мамим ви.“ Те просто са се стремили да изпълнят поставената им цел, без да разбират, че нарушават правилата.“

 

Решението – AI да бъде „доброжелателен“


Според Хинтън разработчиците трябва да намерят начин да направят бъдещите AI системи истински загрижени за хората.

Той и преди е предлагал в тях да бъдат заложени своеобразни „майчински инстинкти“, така че дори когато станат по-умни от човека, да поставят човешкото благополучие над собствените си цели.

 

„Трябва да разберем как да ги направим добронамерени и да се грижат повече за нас, отколкото за себе си“, каза Хинтън. „И все още имаме шанс да го постигнем, защото засега контролът е в наши ръце.“