OpenAI обсуждает возможность создания «взрослого» контента с помощью ИИ 🤖📚

Компания OpenAI, создатель ChatGPT и генератора изображений DALL-E, рассматривает возможность того, чтобы пользователи могли создавать контент для взрослых и другой контент с пометкой NSFW (Not Safe For Work) с помощью её продуктов. При этом в компании подчеркнули, что запрет на дипфейки сохраняется, особенно в отношении материалов с людьми.

В документе OpenAI указано, что потенциально это может включать эротику, экстремальные изображения насилия, ругательства и ненормативную лексику. Цель обсуждения — понять, как можно ответственно предоставлять возможность создавать подобный контент в возрастных рамках, а также изучить ожидания пользователей и общества относительно работы ИИ в этой области.

Сотрудница компании Джоан Джанг отметила, что обсуждение направлено на определение границ разрешённого контента, но подчеркнула: «Мы не планируем создавать ИИ-порно». По её словам, иногда пользователям могут быть полезны творческие материалы с элементами сексуальности или обнажёнки, но это должно происходить в соответствующем контексте и для взрослых.

Представитель OpenAI добавил, что компания не собирается создавать ИИ-порнографию и при этом сохраняет надёжные системы защиты для предотвращения дипфейков, а также уделяет особое внимание защите детей.

В документе также обсуждается использование ИИ для научного и образовательного контента, например объяснение физиологических процессов, что не считается эротическим материалом. OpenAI подчёркивает, что пользователи её технологий должны соблюдать законы, включая защиту детей, и что контент для взрослых запрещён, за исключением образовательных или научных целей.

Главный технологический директор OpenAI, Мира Мурати, отметила, что компания работает с художниками и создателями, чтобы понять, какой уровень гибкости может быть полезен в творческих целях, и как это можно сделать безопасно.

📌 В целом, OpenAI инициирует обсуждение границ ИИ-контента, не собираясь прямо выпускать инструменты для создания порнографии, но изучает подходы к безопасному творческому использованию технологий в возрастных рамках.