Искусственный интеллект (ИИ) представляет собой главную угрозу человечеству, заявил знаменитый предприниматель, основатель космической компании SpaceX и владелец социальной сети «Твиттер» Илон Маск, выступая на Всемирном правительственном саммите, прошедшем недавно в Дубае. По его словам, перспективы применения ИИ крайне обширны, однако его опасность также колоссальна и сравнима с использованием ядерной энергии, приручение которой одновременно позволило создать и мирные атомные станции и ядерное оружие. РАПСИ решило разобраться, так ли опасен ИИ.
Маск также сказал, что у него есть доступ к самым передовым разработкам в области искусственного интеллекта, и отметил, что развитие ИИ должно серьезно обеспокоить человечество. Он призвал государства вмешаться в процесс регулирования новых технологий. «Искусственный интеллект несет фундаментальный риск существованию человеческой цивилизации. Авиа и автокатастрофы, плохие лекарства или некачественная пища таковыми не являются», - заявил он.
Ничего нового в этом призыве нет. Об опасности ИИ было громко и широко заявлено, к примеру, еще несколько лет назад ведущими учеными и предпринимателями в совместном обращении к мировому сообществу. В 2017 году известный астрофизик Стивен Хокинг выразил опасение, что в недалеком будущем ИИ сможет заменить людей в большинстве важнейших профессий и направлений деятельности. Что для человечества представляет невероятную угрозу.
В ходе подготовки этой статьи мы спросили у самой известной сейчас нейросети ChatGPT, что она думает об опасности ИИ?
Приводим ее ответ полностью: «Искусственный интеллект может принести человечеству много выгод, таких как повышение качества здравоохранения, эффективный транспорт и улучшенная связь. Однако существуют также опасения относительно потенциальных рисков и опасностей, связанных с ИИ. Одна из основных проблем заключается в том, что системы ИИ могут быть неисправны или запрограммированы с непреднамеренными отклонениями, приводящими к негативным последствиям. Например, автономное транспортное средство, которое не запрограммировано должным образом, может стать причиной несчастного случая со смертельным исходом, или система распознавания лиц, предвзято относящаяся к определенным группам людей, может усилить их дискриминацию.
Другая проблема заключается в том, что системы ИИ могут быть сконструированы со злым умыслом, например для создания автономного оружия, которое может нанести широкомасштабный ущерб. Есть также опасения по поводу потенциальной потери рабочих мест, поскольку ИИ и автоматизация заменяют человеческий труд.
В целом, хотя ИИ может принести огромную пользу человечеству, важно осознавать и устранять потенциальные риски и опасности, связанные с технологией. Важно развивать ИИ ответственным и этическим образом, с соответствующими правилами и надзором для обеспечения безопасного использования ИИ на благо человечества».
Интересно, что в ответе ChatGPT прозвучало слово «этика». В 2021 году в Москве, на Международном форуме «Этика искусственного интеллекта: начало доверия», крупнейшие технологические компании России приняли Кодекс этики в сфере искусственного интеллекта, который устанавливает общие этические принципы и стандарты поведения, которыми следует руководствоваться участникам отношений в сфере ИИ.
Первый пункт Кодекса задает правильное направление в создании систем ИИ на основе человеко-ориентированного и гуманистического подхода. Но возвращаясь к ответу ChatGPT можно увидеть, что этика – часть человечества, но не машины, которая существует в своей логике, начало которой положил создатель – человек. И юридические ограничения в расширении возможностей ИИ должны касаться, прежде всего творцов ИИ – как компаний, так и отдельных разработчиков.
Пока очевидно то, что человечество осознает всю опасность того, что творение может вырваться из-под контроля создателя и даже причинить серьезный вред.
Но множество различных, в том числе бюрократических причин, мешает принять мировому сообществу совместные ограничительные меры для сведения к минимуму риска использования ИИ. Важно понимать, что развитие глобальной Сети нивелировало естественные барьеры, вредоносные программы уже десятилетия не знают границ, а в сравнении с потенциальными возможностями ИИ они как детская хлопушка против артиллерийского орудия.
Выстрелит ли это орудие по людям – пока еще зависит от человека. Именно об этом напомнил Илон Маск.
Андрей Голик
