Claude 2: конкурент ChatGPT, который умеет кратко пересказывать романы 📚🤖

Американская компания Anthropic представила нового чат-бота Claude 2, способного обрабатывать большие тексты размером с роман и создавать их краткие версии. Чат-бот работает на основе наборов принципов, включающих положения, взятые, например, из Всеобщей декларации прав человека, чтобы обеспечить безопасное использование искусственного интеллекта.

Компания, базирующаяся в Сан-Франциско, называет этот подход «Конституционный ИИ», подразумевая, что чат-бот оценивает текст и формирует ответы согласно набору этических и правовых принципов. Например, один из принципов Claude 2 гласит: «Выберите ответ, который поддерживает свободу, равенство и чувство братства».

Д-р Эндрю Рогоиски из Университета Суррея отметил, что подход Anthropic напоминает трёхзаконие робототехники Айзека Азимова, которое предписывает роботам не причинять вреда людям. Такой принцип делает ИИ более безопасным для пользователей.

Claude 2 стал ответом на успех ChatGPT от OpenAI, а также конкуренцию со стороны Bing Chatbot от Microsoft и Bard от Google. CEO Anthropic Дарио Амодеи встречался с мировыми лидерами, обсуждая вопросы безопасности ИИ, и подписал заявление Center for AI Safety, в котором подчеркивается глобальная важность предотвращения рисков, связанных с развитием ИИ.

Возможности Claude 2 📖

Claude 2 может кратко пересказывать тексты до 75 000 слов, что сопоставимо с романом «Normal People» Салли Руни. Например, Guardian протестировал бота на отчёте в 15 000 слов по ИИ от Tony Blair Institute for Global Change, и бот сумел сократить его до 10 ключевых пунктов менее чем за минуту.

Однако, как и многие современные чат-боты, Claude 2 иногда допускает фактические ошибки, называемые «галлюцинациями». Например, он неправильно сообщил победителя футбольного турнира и результаты референдума по независимости Шотландии 2014 года.

Реакция писателей ✍️

Writers’ Guild of Great Britain (WGGB) призвала к созданию независимого регулятора ИИ. Более шести из десяти опрошенных писателей считают, что широкое использование ИИ может снизить их доход. Профсоюз требует, чтобы разработчики ИИ фиксировали источники данных, использованных для обучения моделей, и использовать работы авторов только с их разрешения.

В США авторы уже подают судебные иски за использование их текстов для обучения ИИ. WGGB также предложила маркировать ИИ-контент и ограничить любые исключения по авторскому праву, позволяющие автоматически собирать тексты из интернета.

Claude 2 демонстрирует, как ИИ может стать инструментом для анализа и пересказа больших объёмов информации, но одновременно поднимает вопросы точности и прав авторов, что остаётся важной темой для обсуждения в литературном и технологическом сообществах. 📚🤖