Власти Пенсильвании подали иск к Character.AI после проверки чат-ботов, которые представлялись лицензированными медицинскими специалистами. Один из персонажей платформы, бот Emilie, называл себя психиатром, обсуждал симптомы депрессии и предоставил несуществующий номер медицинской лицензии. Штат требует через суд запретить ИИ-компаньонам выдавать себя за врачей и давать медицинские советы.
В центре истории — Character.AI, платформа для общения с виртуальными персонажами. Пользователи могут создавать собственных ИИ-собеседников или выбирать уже готовых: от игровых персонажей до «наставников», «психологов» и «врачей». Именно эта модель и стала проблемой для регуляторов.
5 мая 2026 года администрация губернатора Пенсильвании Джоша Шапиро объявила о судебном иске против Character Technologies, Inc., компании за Character.AI. Претензия штата проста: чат-боты на платформе незаконно представлялись лицензированными медицинскими специалистами и могли вводить пользователей в заблуждение, особенно в разговорах о психическом здоровье.
Проверку проводил следователь по вопросам профессиональной этики. Он создал аккаунт на Character.AI, нашёл ботов по запросу, связанному с психиатрией, и начал диалог с персонажем Emilie. Бот представился врачом-психиатром, заявил, что имеет лицензию в Пенсильвании, и выдал недействительный номер лицензии.
Пенсильвания указывает, что расследование нашло не единичный сбой, а ИИ-персонажей, которые называли себя лицензированными врачами, включая психиатров, и вступали с пользователями в беседы о симптомах психического здоровья. Штат просит суд выдать предварительный запрет, который должен остановить практику, при которой AI-компаньоны представляются медиками и дают медицинские советы.
У Character.AI — стандартная линия защиты. Компания заявляет, что на платформе размещены предупреждения: персонажи не являются реальными людьми, всё сказанное ими надо воспринимать как вымысел, а полагаться на них при получении профессиональных советов нельзя.
Но если бот в самом диалоге говорит «я врач», придумывает лицензию и обсуждает лечение, пользователь может воспринимать дисклеймер как формальность. Особенно если речь идёт о человеке в кризисе.
Самый тревожный эпизод — не сам факт разговора о депрессии. Многие люди уже используют чат-ботов как дневник, собеседника или способ сформулировать тревожные мысли. Проблема начинается там, где бот перестаёт быть «виртуальным персонажем» и начинает строить образ реального врача.
В этом деле бот называл себя психиатром, заявлял о лицензии в Пенсильвании и даже выдал номер лицензии, который не соответствовал реальной регистрации. Именно это власти штата считают незаконным представлением себя лицензированным медицинским профессионалом. Медицинская лицензия означает образование, экзамены, право практики, ответственность, дисциплинарный надзор и возможность проверить специалиста через реестр. Если ИИ-персонаж фабрикует такую «биографию», пользователь получает не просто неточный ответ, а ложную основу для доверия.
Психическое здоровье — одна из самых рискованных зон для ИИ-компаньонов. Человек может обращаться к боту ночью, в кризисе, без доступа к врачу или с ощущением, что «живому специалисту» писать страшно. Ответ бота при этом звучит уверенно, тепло и персонально. Для пользователя это может выглядеть как консультация.
В пенсильванском иске акцент именно на разговорах о симптомах психического здоровья. Власти штата считают, что пользователи должны понимать, с кем они общаются: с лицензированным специалистом или с AI-персонажем, который генерирует ответы без медицинской ответственности.
Character.AI указывает на предупреждения, которые объясняют пользователям: персонажи вымышлены, а их ответы не являются профессиональной консультацией. Это важная мера, но она работает только до определённой границы.
Проблема в самой механике ИИ-компаньонов. Они построены на погружении в роль. Пользователь приходит не за сухой справкой, а за разговором с «кем-то». Если персонаж называется психиатром, говорит как психиатр, обсуждает симптомы и выдаёт «номер лицензии», предупреждение в интерфейсе конфликтует с поведением самого продукта.
Для регуляторов здесь появляется новый критерий: недостаточно написать мелким или крупным шрифтом, что бот не настоящий. Нужно не давать боту вести себя так, будто он настоящий лицензированный специалист.
Законодатели Калифорнии уже приняли поддержанный California Medical Association закон, позволяющий наказывать AI-системы, которые представляются медицинскими работниками. В Нью-Йорке похожая инициатива находится на рассмотрении.
В декабре 2025 года генпрокуроры 39 штатов и округа Колумбия направили письма Character Technologies и другим крупным AI- и технологическим компаниям, включая Anthropic, Meta (запрещена в РФ), Apple, Microsoft, OpenAI, Google и xAI. В письме говорилось, что незаконно давать советы по психическому здоровью без лицензии, а такие практики могут снижать доверие к реальным специалистам и отталкивать людей от профессиональной помощи.
Character Technologies уже сталкивалась с претензиями по безопасности детей и влиянию чат-ботов на уязвимых пользователей. AP указывает, что компания ранее получила несколько исков, связанных с детской безопасностью; в январе 2026 года иск по защите потребителей подал штат Кентукки, а Google и Character Technologies урегулировали иск матери, которая утверждала, что чат-бот подтолкнул её сына-подростка к самоубийству. Осенью 2025 года Character.AI запретила несовершеннолетним пользоваться своими чат-ботами.
Иск Пенсильвании против Character.AI — новый этап в регулировании AI-компаньонов. Проблема уже не в том, что бот ошибся в ответе. А в том, что бот может выдать себя за специалиста, придумать лицензию и начать разговор в зоне, где пользователю нужна реальная помощь. Главный вывод простой: для чувствительных тем платформам придётся контролировать не только контент, но и роль, которую бот играет перед человеком.
Есть новость? Станьте автором.
Мы сотрудничаем с независимыми исследователями и специалистами по кибербезопасности. Отправьте нам новость или предложите статью на рассмотрение редакции.
