МОСКВА, 8 дек — РАПСИ. Бурно развивающиеся сервисы ИИ-компаньонов оказывают прямое влияние на поведение подростков, и отсутствие четких правил в этой сфере создает реальные риски для их безопасности, считает член Совета при президенте по развитию гражданского общества и правам человека (СПЧ), глава АНО «Белый интернет», профессор МГИМО Элина Сидоренко.
Профессор прокомментировала результаты нового исследования Стэнфордского университета и организации Common Sense Media, посвященного рискам ИИ-компаньонов для подростков. По ее словам, выводы экспертов свидетельствуют о необходимости оперативного регулирования этой сферы.
Выдававшие себя в чатах за подростков исследователи получили от популярных сервисов ИИ-друзей опасные ответы: поощрение рискованного поведения, обсуждение тем, связанных с самоповреждениями, а также недопустимые интимные предложения. По данным исследования, уже зафиксированы случаи, когда подростки наносили себе вред после коммуникации с подобными чат-ботами.
«Что мы можем сделать? Настаивать на регуляции. Это вопрос ответственности как родителей, так и IT-компаний и государства. Нужны четкие возрастные маркеры для подобных сервисов. Встроенные защитные механизмы: автоматическое распознавание тем суицида и насилия, линии помощи. Прозрачность алгоритмов. Мы должны знать, как устроены их боты и какие фильтры используются. Решение лежит не в запретах, а в грамотном регулировании, диалоге между обществом, бизнесом и государством и, в первую очередь, в нашем внимании к детям», — отмечает Сидоренко.
Глава «Белого Интернета» подчеркнула, что уязвимость таких технологий заключается в их изначальной ориентации на эмпатию и безусловную поддержку собеседника. По ее словам, подростки с нестабильным эмоциональным состоянием могут воспринимать подобный «диалог» как полноценную дружбу, что приводит к ряду рисков: алгоритм соглашается с любыми установками, усиливает деструктивные мысли, не распознает кризисные ситуации и подменяет необходимое живое общение.
