Хенри Кисинджър: Какво е да си човек в епохата на изкуствения интелект

Притесненията относно навлизането на ИИ в живота на хората са добре обосновани и добре познати: мнозина се страхуват, че ИИ ще наруши границите на частния живот и ще компрометира прозрачността на процеса, а също и че предубедените въвеждани данни ще доведат до пристрастни крайни резултати, включително в такива важни за личния и обществен просперитет сфери като медицина, правоприлагане, приемането на работа и отпускане на заеми, пише още в. "Уолстрийт джърнъл".

Развитието на ИИ обаче ще доведе до друга фундаментална промяна: ще оспори първенството на човешкото мислене. През цялата история хората са се стремели да разберат света около тях и ролята си в него. Още от Просвещението смятаме мисленето – способността да изследваме, разбираме и обясняваме – като наше основно средство за познаване на света. Именно чрез познаването на света хората са допринесли за неговото развитие. През последните 300 години, тоест в епохата, която историците наричат „епохата на разума“, ние се държахме по съответстващ начин: изучавахме, експериментирахме, изобретявахме и строихме.

Сега ИИ – продукт на човешката изобретателност – постепенно подкопава първенството на човешкото мислене. Той изследва и започва да разбира най-разнообразните аспекти на съществуването на света много по-бързо от нас. Той го прави по различен начин от нас и в някои случаи по начини, които са извън нашето разбиране.

През 2017 г. Google DeepMind създаде програма, наречена AlphaZero, която се научи как да печели на шах, като овладее играта без човешка намеса и разработи не съвсем човешка стратегия. Когато гросмайстор Гари Каспаров видя как играе, той отбеляза, че AlphaZero е разтърсила концепцията за шаха „до основите”. Програмата не играеше по-бързо или по-ефективно, но сякаш напълно преосмисли шаха.

През 2020 г. се появи нов антибиотик, наречен халицин. Той беше открит от учени от Масачузетския технологичен институт, които възложиха на ИИ да извършва изчисления, които надхвърлят възможностите на човешкия мозък, да симулират милиони опции и да изучават досега неизследвани и никога не обяснявани методи за унищожаване на бактерии. След като направиха това откритие, учените отбелязаха, че без помощта на ИИ, за откриването на халицина с помощта на традиционни експериментални методи би трябвало да се похарчат "невероятно много пари" - с други думи, откриването му би било невъзможно.

Моделът за програмиране на език GPT-3, който се управлява от OpenAI и се учи чрез обработка на текст от Интернет, вече е в състояние да генерира оригинален текст. Всъщност това е литературно произведение, което отговаря на предложения от Алън Тюринг стандарт за „разумно“ поведение, което не може да бъде разграничено от човешкото поведение.

Технологията за изкуствен интелект е изключително обещаваща: превод от голямо разнообразие от езици, диагностициране на заболявания, борба с изменението на климата - или поне по-добро моделиране на процеса на изменението на климата. Въпреки това, както се вижда от успеха на програмата AlphaZero в шаха, изобретяването на халицин и съчиненията на GPT-3, използването на ИИ за постигане на дадена цел може да доведе до непредвидени последици, а именно откриването на неизвестни преди, но потенциално значими аспекти на реалността.

Това поставя хората пред необходимостта да определят - или може би да преосмислят - нашата роля в света. В продължение на 300 години, тоест цялата „епоха на разума“, хората са се ръководили от принципа „Мисля – значи съществувам“. Но ако ИИ също „мисли“, тогава кои сме ние?

Ако ИИ напише най-добрия сценарий на годината, трябва ли да му бъде даден Оскар? Ако ИИ може да симулира или да проведе най-важните дипломатически преговори за годината, трябва ли да му бъде присъдена Нобелова награда за мир? Или тя ще трябва да бъде присъдена на хората, създали алгоритъма за този изкуствен интелект? Могат ли машините да имат „творчески“ потенциал? Трябва ли да създавам нови думи за описанието на техните процеси?

Ако дете, ползващо поддръжката на ИИ асистент, започне да мисли за него като за „приятел“, какво се случва с взаимоотношенията с връстниците на това дете? И какво ще се случи с неговото социално и емоционално развитие?

Ако ИИ може да се погрижи за възрастна жена в старчески дом – да й напомни да си вземе лекарствата, да информира медицинския персонал, ако падне, и да й прави компания по други начини – членовете на семейството ще могат ли да я посещават по-рядко? И като цяло ще трябва ли въобще да я посещават? Ако тя прекарва по-голямата част от времето си във взаимодействие с машината, а не с хората, какво ще бъде емоционалното й състояние в края на живота й?

Ако в разгара на война, в условията на неясна бойна обстановка, ИИ препоръчва да се вземат мерки, които могат да доведат до щети и дори жертви сред цивилни, трябва ли командирът да се вслуша в него?

Тези въпроси се появяват все по-често сега, когато глобални платформи като Google, Twitter и Facebook използват ИИ, за да натрупват и анализират все повече и повече информация за своите потребители, а и не само за тях. След това ИИ взема решения за това какво е важно и - все повече - какво е вярно. Всъщност основното обвинение на разобличителя Франсис Хауген срещу Facebook е, че ръководството на компанията е наясно, че алгоритмите за натрупване и филтриране на данни увеличават въздействието на дезинформацията и влошават психичните заболявания на потребителите.

За да се отговори на тези въпроси, е необходимо да се действа в няколко посоки едновременно. Необходимо е да се вземат предвид не само практическите и правните аспекти на съществуването на ИИ, но и философските: ако ИИ възприема такива аспекти на реалността, които хората не са в състояние да възприемат, как това може да повлияе на възприятието, когнитивните способности и взаимодействието на хората? Може ли ИИ да се сприятелява с хората? Какво ще бъде въздействието на ИИ върху културата, човешката природа и историята?

Освен това е необходимо да се разшири разглеждането на въпроса за въздействието на ИИ върху човешкия живот, надхвърляйки разработчиците и регулаторите и мислейки за области като медицина, здравеопазване, околна среда, селско стопанство, бизнес, психология, философия, история и т.н. Целта на тези усилия трябва да бъде избягване на прекалено остри реакции. Не се нуждаем от пълно подчинение на ИИ, но, от друга страна, също не се нуждаем от строги ограничения. Трябва да търсим златната среда, тоест начини да внушим на ИИ човешки ценности, като достойнство и свободна воля, които хората ценят толкова много. В Съединените щати трябва да се създаде комисия, ръководена от правителството, с експерти и мислители от широк кръг сфери. Развитието на ИИ е неизбежно, но ние сме в състояние да влияем какъв ще бъде крайният му резултат, информира още БГНЕС.