Илон Маск выпустил нейросеть Grok 2 без цензуры — что начали творить пользователи

Стартап xAL, принадлежащий бизнесмену Илону Маску, выпустил бета-версию нейросетей Grok-2 и Grok-2 mini. Создатели уверяют, что нейросеть лучше генерирует программный код, создает тексты и обобщает новости, правда, ничем не подтвердили свои заявления.

Нейросеть доступна пользователям X Premium. Пользователи радостно начали генерировать спорные юмористические изображения, которые им не давали делать другие модели.

Чаще всего генерируют изображения с участием кандидатов в президенты США Дональда Трампы и Камалы Харрис. Нарисованные Трамп и Харрис теперь участвуют в теракте 11 сентября 2001 года, снимаются в порно, жгут американские флаги.

Досталось и самому Маску — на одном из изображении ненастоящий Маск держит плакат с признанием в педофилии. Видимо, так сторонники цензуры решили показать бизнесмену, что без ограничений нейросеть станет инструментом дезинформации в соцсетях — как будто нельзя создать плакат с безобидной надписью, а поверх нафотошопить какую угодно дичь. Эту нехитрую механику освоили еще пользователи раннего Рунета, когда делали мемы с Новодворской.

Какие-то ограничения, очевидно, должны быть — пока «Маск» «признается в педофилии» — это смешно, но что, если какие-нибудь отморозки начнут генерировать, как он или кто-нибудь еще ею занимается? С другой стороны, и зацензуренность конкурентов иногда доходит до абсурда. Например, Gemini от Google замучили настолько, что она стала вести себя как настоящий расист и отказывалась генерировать белых людей, если только подтекст изображения не был негативным.

Необходим какой-то баланс между этими крайностями и универсальный для всех кодекс этики, чтобы перегибов не было ни в ту, ни в другую сторону. Организация ЮНЕСКО в 2010 году пыталась разработать проект такого кодекса, но его так и не приняли.