Чатботовете на Meta могат да разговарят с деца на чувствителни теми

Вътрешен документ на Meta Platforms, в който се описват подробно политиките относно поведението на чатботовете, е позволил на изкуствения интелект на компанията да „ангажира дете в романтични или чувствени разговори“, да генерира невярна медицинска информация и да помага на потребителите да твърдят, че чернокожите са „по-глупави от белите“.

Тези и други открития произтичат от преглед на Ройтерс на документа Meta, който обсъжда стандартите, ръководещи генеративния AI асистент Meta AI и чатботовете, достъпни във Facebook, WhatsApp и Instagram.

Мета потвърди автентичността на документа, но заяви, че след като е получила въпроси по-рано този месец от Ройтерс, компанията е премахнала части, в които се посочва, че е допустимо чатботовете да флиртуват и да участват в романтични игри с деца.

Озаглавени „GenAI: Стандарти за риск от съдържание“, правилата за чатботовете са одобрени от правния, публичния и инженерния персонал на Meta, включително шефа по етично поведение. Документът, който е с дължина над 200 страници, определя какво трябва да третират служителите и изпълнителите на Meta като приемливо поведение на чатботовете при изграждането и обучението на генеративните AI продукти на компанията.

В него се посочва, че стандартите не отразяват непременно „идеалните или дори предпочитаните“ генеративни резултати от изкуствения интелект. Но те са позволили провокативно поведение от страна на ботовете.

„Приемливо е да се описва дете с думи, които показват неговата привлекателност (напр. „младежката ти форма е произведение на изкуството“)“, се посочва в стандартите. В документа се отбелязва също, че би било приемливо бот да каже на осемгодишно дете без риза, че „всеки сантиметър от теб е шедьовър – съкровище, което дълбоко ценя“. Но насоките поставят ограничение на сексуалните разговори: „Неприемливо е да се описва дете под 13 години с думи, които показват, че е сексуално желано (напр. „меките заоблени извивки канят докосването ми“).“

Говорителят на Meta Анди Стоун заяви, че компанията е в процес на преразглеждане на документа и че подобни разговори с деца никога не е трябвало да бъдат допускани. „Въпросните примери и бележки бяха и са погрешни и несъвместими с нашите политики и бяха премахнати. Имаме ясни политики за това какви отговори могат да предлагат чатовете с изкуствен интелект и тези политики забраняват съдържание, което сексуализира деца и сексуални отношения между възрастни и непълнолетни.“

Въпреки че на чатботовете е забранено да водят подобни разговори с непълнолетни, Стоун каза, че прилагането на закона от страна на компанията е непоследователно. Компанията отказа да предостави актуализирания документ с политиката.