„Използвайки реални изображения на ищцата и други жертви, Grok е генерирал детска порнография, изобразяваща ищцата и членовете на групата“, се посочва в исковата молба, внесена миналата седмица във федерален съд в Калифорния.
Адвокатите на ищцата, представена в делото като Джейн Доу, за да бъде защитена самоличността ѝ, обвиняват xAI не само в генериране на материали със сексуално насилие над деца, но и в това, че компанията е включила в своите бази данни изображения на сексуално насилие над деца, на които е била изобразена клиентката им, след като нови изображения са били публикувани публично.
В иска се твърди още, че xAI е пренебрегнала утвърдени в индустрията методи за защита срещу материали със сексуално насилие над деца. В резултат такива генерирани от AI изображения са се появявали и разпространявали в социалната платформа X, известна преди като Twitter.
През януари Мъск заяви, че не е знаел Grok някога да е създавал „каквито и да било голи изображения на непълнолетни“. В края на август обаче компанията му заведе дела срещу двама свои потребители, които са обвинени и по наказателни производства именно в създаването на подобни изображения. xAI настоява двамата мъже да поемат разходите по делата, заведени срещу компанията от техните жертви.
Новото дело се различава от няколко други съдебни иска срещу xAI, свързани със сексуално насилие над деца. В него се твърди, че изкуственият интелект е използвал вече съществуващи материали със сексуално насилие над деца, за да създава и разпространява нови изображения.
В предишни дела, сред които иск на група тийнейджъри от Тенеси, се твърди, че Grok е използвал непорнографски снимки на непълнолетни, за да създава материали със сексуално насилие над деца, най-често чрез дигитално премахване на дрехите им.
Използването на вече съществуващи незаконни материали е особено важно, тъй като правоохранителни органи и организации за защита на децата често поставят на такива изображения и видеа уникален дигитален отпечатък, известен като хеш. Той позволява материалите да бъдат проследявани, когато отново се появят онлайн.
В този случай адвокатите на ищцата твърдят, че Канадският център за защита на децата е използвал дигиталните отпечатъци на изображенията, за да идентифицира генерирани от AI материали със сексуално насилие над деца, публикувани в X, които изобразяват тяхната клиентка.
Според исковата молба момичето е било в предучилищна възраст, когато многократно е било изнасилвано и принуждавано от възрастен мъж да създава материали със сексуално насилие над деца. Тази серия изображения се разпространява онлайн от около 20 години и е добре позната на властите и организациите за защита на децата, твърдят адвокатите ѝ.
„Разликата тук с много от наказателните дела, които виждате за генерирани от AI материали, е, че не можете да докажете, че детето на изображението е реално“, казва адвокатът на ищцата Маргарет Мейби. „Но тук, тъй като можем да свържем изображенията с тази серия, знаем, че става дума за идентифицируема жертва, която все още е жива и е била реално дете на снимката.“
Нито xAI, нито SpaceX, която придоби компанията през февруари, са отговорили на запитванията за коментар по делото.
