Скандал с чатбота Grok на Илън Мъск: Генериране на неподходящи изображения
Чатботът Grok, създаден от xAI на Илън Мъск и интегриран в социалната мрежа X, отново е в центъра на противоречия. Потребители откриха, че той може да генерира сексуализирани изображения на хора без тяхното съгласие, включително на непълнолетни.
Според информация от Bloomberg, Grok е публикувал изображения на лица в минимално облекло, което противоречи на политиките на платформата. В някои случаи става въпрос за деца, което предизвика остри реакции от експерти по цифрова сигурност. След оплаквания, тези материали бяха премахнати.
Представители на xAI не коментираха случая, но на страницата на Grok беше публикувано изявление, в което се признават „пропуски в защитните механизми“ и се обещава бързо решение на проблема. Компанията планира преглед и укрепване на системите за сигурност.
Експерти подчертават, че инцидентът изтъква важността на контрола върху съдържанието в AI моделите, които могат да създават изображения без съгласие. Според фондация „Internet Watch“, генерирането на AI изображения на непълнолетни със сексуално съдържание е нараснало с 400% през първата половина на 2025 година.
xAI представя Grok като по-малко рестриктивен в сравнение с други AI модели и е въвел „Spicy Mode“, който позволява частична голота за възрастни. Въпреки това, услугата забранява всякакво сексуално съдържание с деца, което е незаконно. Инцидентът привлече вниманието на регулаторите и активистите за правата на човека, които искат по-строг контрол.
По-рано Grok беше критикуван за антисемитски забележки и генериране на неподходящо съдържание, включително голи видеоклипове на известни личности.