МОСКВА, 27 июл — РАПСИ. Формирование культуры безопасного взаимодействия с интеллектуальными системами, соблюдение ИИ-гигиены, появление новой профессии специалиста по проверке этичности нейросетей и создание тысяч бенчмарков для сертификации моделей — эти меры предложили внедрить эксперты интенсива «ГорИИзонты: эволюция медиа» на дискуссии об этике искусственного интеллекта в Москве.
Научный сотрудник Центра искусственного интеллекта МГИМО Алена Цыплакова отметила, что постоянное взаимодействие с интеллектуальными системами влияет на восприятие человеком реального мира и самого себя.
«Нам нужна тотальная ИИ-гигиена. Важно понимать, как постоянное взаимодействие с интеллектуальными системами влияет на восприятие человеком реального мира, человеческих отношений и самого себя», – отметила Цыплакова.
Обучение интеллектуальных систем должно учитывать не только факты, но и особенности человеческой коммуникации, отметил проректор по медиаобразованию Мастерской управления «Сенеж» президентской платформы «Россия – страна возможностей», руководитель «Мастерской новых медиа» Михаил Канавцев.
«Если машина взаимодействует с человеком, она должна понимать особенности этого взаимодействия так же, как мы понимаем этапы воспитания ребенка. Нужно учить систему не только отличать правду от лжи, но и понимать, что полезно человеку, а что способно причинить вред», – подчеркнул эксперт.
Бенчмарки и принципы
Профессор РАН Константин Воронцов предложил создать тысячи тестов-бенчмарков, на которых можно проверять поведение языковых моделей в разных коммуникативных ситуациях.
«Для этого нужны специалисты, в основном в гуманитарных профессий, которые скажут, этично или неэтично то или иное высказывание, тот или иной диалог. И надо собрать много таких примеров, и на них построить тесты. А тестов таких нужны не десятки, не сотни, а тысячи. На основе чего появятся процедуры сертификации, когда, не пройдя эти тесты, модель не может быть выпущена для использования людьми», – указал Воронцов.
Настоятель храма преподобного Сергия Радонежского в Солнцево иерей Александр Волков напомнил, что этика ИИ — это прежде всего этика создающего его человека.
«Искусственный интеллект не обладает собственной этикой. Этикой обладает тот, кто его создает, обучает и внедряет. Поэтому разговор об этике ИИ – это прежде всего разговор об этике самого человека. Если общество не договорится о базовых принципах, создать действительно работающую систему регулирования не получится», – уточнил настоятель.
Интенсив «ГорИИзонты» был организован Мастерской новых медиа. Программа создана «Диалогом» и Мастерской управления «Сенеж» президентской платформы «Россия — страна возможностей».
РАПСИ оказывает информационную поддержку мероприятия.
