Почему ИИ по-разному отвечает в разных моделях и языках

Anthropic опубликовала исследование о том, как меняются ценностные акценты Claude в разных моделях и на разных языках. Для бизнеса это важная тема: одна и та же система искусственного интеллекта может отвечать более осторожно, более тепло, более кратко или более строго в зависимости от версии модели и языка общения.

Это не значит, что модель имеет собственные убеждения в человеческом смысле. Речь о другом: когда искусственный интеллект отвечает на вопросы без единственно правильного ответа, он неизбежно выбирает тон, степень осторожности, глубину объяснения и уровень прямоты.

Anthropic ранее проанализировала 700 000 обезличенных разговоров с Claude и выделила более 3000 ценностей, которые проявлялись в ответах модели. В новом исследовании эти значения свели к четырем более понятным шкалам.

По данным Anthropic, разные модели Claude проявляют разные поведенческие профили. Sonnet 4.6 чаще выглядит более теплой, поддерживающей и краткой. Opus 4.7 чаще проявляет осторожность, глубину, строгость и готовность прямо указывать на риски или слабые места.

Для бизнеса это означает, что выбор модели должен учитывать не только силу модели, но и ее стиль.

• для черновиков, общения и поддержки может подойти более теплый и краткий помощник;
• для аудита, проверки рисков и сложных решений лучше подходит более строгий и глубокий вариант;
• для поточных задач важна предсказуемость и отсутствие лишней многословности.

Один из самых важных выводов исследования: Claude выражает разные ценностные акценты в разных языках.

Например, на английском Claude чаще склоняется к осторожности, глубине, строгости и прямоте. На русском языке заметнее проявляется строгость: модель чаще уточняет детали, исправляет неточности и требует доказательств. В арабском и хинди сильнее проявляется теплота и поддерживающий тон.

Это важно для международных компаний и для тех, кто работает с клиентами на нескольких языках. Один и тот же сценарий поддержки, обучения или продаж может восприниматься по-разному, если модель меняет стиль вместе с языком.

Главный вывод: модель нужно тестировать не только на правильность, но и на поведение.

• насколько модель точна;
• насколько она осторожна;
• не соглашается ли она с ошибочными предположениями пользователя;
• не спорит ли там, где нужна простая помощь;
• не становится ли слишком сухой в клиентском общении;
• не становится ли слишком мягкой в задачах, где нужна проверка фактов;
• одинаково ли она ведет себя на русском, английском и других рабочих языках компании.

Особенно это важно для ИИ-помощников, которые общаются с клиентами, родителями, учениками, пациентами, сотрудниками или партнерами.

Мы бы использовали это исследование как аргумент в пользу нормального тестирования перед запуском. Перед внедрением ИИ-помощника нужно проверять не только вопрос “правильно ли он отвечает”, но и другие вопросы.

1. Какой тон он использует?
2. Когда он предупреждает о рисках?
3. Когда он должен задавать уточняющий вопрос?
4. Когда он должен прямо сказать, что данных недостаточно?
5. Как он ведет себя на русском языке?
6. Не меняется ли качество при переводе сценария на другой язык?
7. Какой стиль нужен именно этой компании: теплый, строгий, краткий, подробный или смешанный?

Для одних задач нужен помощник, который быстро выполняет поручение. Для других - помощник, который умеет остановиться, указать на риск и не поддерживать ошибочное решение.

Эта тема особенно важна в проектах, где искусственный интеллект влияет на решения людей.

• образование;
• медицина и психология;
• финансовые услуги;
• юридические документы;
• работа с детьми и родителями;
• кадровые процессы;
• клиентская поддержка;
• управленческая аналитика;
• проверка договоров и регламентов.

В таких задачах недостаточно настроить вежливый ответ. Нужно заранее определить поведенческие правила: где модель помогает, где предупреждает, где отказывается, где просит больше данных, а где передает вопрос человеку.

Исследование Anthropic показывает, что у моделей есть измеримые поведенческие различия. Они зависят от версии модели и языка общения.

Для бизнеса это значит, что внедрение ИИ нельзя сводить к подключению одной лучшей модели. Нужно выбирать модель под задачу, язык, аудиторию и допустимый уровень риска.

Хороший ИИ-помощник - это не просто система, которая умеет отвечать. Это система, которая отвечает в нужном стиле, с нужной степенью осторожности и с понятными правилами передачи сложных случаев человеку.