«Плохо обученный искусственный интеллект опаснее восстания машин»
При нынешнем уровне развития искусственного интеллекта (ИИ) человечеству не грозит восстание машин. Более актуальной угрозой представляется применение недостаточно обученного ИИ в жизненно важных сферах, а также попытки его использования для того, чтобы поставить под контроль жизнь человека. Об этом шла речь на семинаре «Угрозы, которых мы не ожидали от искусственного интеллекта», проведенном Научно-учебной лаборатории трансцендентальной философии ВШЭ.
Заведующая лабораторией Светлана Климова поинтересовалась у автора доклада — приглашенного исследователя Александра Хомякова, какие опасности могут сопровождать широкое применение искусственного интеллекта. По его оценке, вероятность скорого порабощения человечества машинами сильно преувеличена, при нынешнем состоянии искусственного интеллекта это невозможно. «Можно, конечно, бояться мятежа утюгов, которые восстанут и нас всех зажарят», — иронизирует он.
Пока искусственный интеллект остается программой, а угроза заключается в человеке, который им пользуется. «Неправильное применение его человеком гораздо важнее и опаснее, чем гипотетическое восстание машин», — уверен автор исследования. Однако не все угрозы, которые может нести искусственный интеллект, нам сейчас известны, и мы можем его применять, не всегда понимая последствия, как, например, в начале XX века в косметических целях использовали радиевые маски.
Александр Хомяков напомнил, что в Европе обсуждают зоны ограничения использования ИИ. Отечественные законодатели спешат запретить его применение, но эксперт уверен, что это может привести к отставанию в развитии. И поэтому важно соблюдать баланс между развитием и предупреждением негативных последствий внедрения ИИ. Выход, по его мнению, в упреждающих действиях.
Другой проблемой становится способность искусственного интеллекта создавать и публиковать в соцсетях тексты, которые трудно отличить от написанных человеком. Так, бот, созданный одной из версий программы GPT, выдавал себя за человека в течение нескольких недель. Иногда тексты ИИ невозможно распознать как искусственные. Получается, машина может управлять даже эмоциями своего собеседника-человека. Эти боты могут писать в вашей ленте комментарии, создавать тот или иной информационный фон и даже подталкивать своего собеседника к тем или иным действиям, способствовать формированию мнения, объясняет Александр Хомяков.
Самое страшное, что тысячами сообщений в секунду может руководить какой-нибудь гениальный свихнувшийся программист с неясными целями. Это реальная угроза, когда кто-то может пытаться манипулировать людьми через искусственный интеллект
Еще одной проблемой может стать передача принятия части решений искусственному интеллекту как помощнику без адекватной оценки его возможностей. Если, например, врач полностью доверит ИИ расшифровку рентгеновских снимков, ошибочные выводы могут иметь серьезные последствия. Установка ИИ в качестве фильтра на вызовах «скорой помощи» также небезопасна. «Это может создать угрозу для жизни человека, находящегося в стрессе, речь которого недостаточно обученный искусственный интеллект может неверно интерпретировать», — рассказывает Александр Хомяков.
Однако все это не значит, что ИИ бесперспективно использовать в принципе. Обходиться без него уже невозможно. Искусственный интеллект имеет большую оперативную память и, кроме того, берет на себя рутинную работу, которую человек не хочет выполнять. МВД, например, может следить не только за автомобилями, но и за людьми. Достаточно установить камеры, настроить ИИ, и система дальше работает сама. При этом, разумеется, встают этические вопросы.
На Западе уже возникают скандалы, связанные с подбором персонала, когда ИИ обвиняют в расистских наклонностях, поскольку в выборки попало меньше людей с африканской и азиатской внешностью. В ситуациях, когда машина, ведомая автопилотом, совершила аварию с человеческими жертвами, неожиданно выясняется, что в обучающей программе не было предусмотрено перевернутого фургона, кареты «скорой помощи» или остановившейся на обочине пожарной машины.
Важно понимать, говорит Александр Хомяков, что искусственный интеллект — это программа, основанная на статистике, ее точность не превышает 95%, то есть предусмотрена 5-процентная вероятность ошибок. «Готовы ли мы к такой высокой вероятности, если это касается человеческой жизни?» — задается вопросом эксперт.
Еще одной опасностью массового внедрения искусственного интеллекта он назвал уход с рынка труда многих работников, преимущественно низкоквалифицированных, занятых рутинным трудом. Это может привести к резкому росту асоциального поведения и преступности. Есть угроза и для людей творческих профессий: в Индии ИИ разрабатывает дизайн одежды и обуви, который оказывается более привлекательным для потребителей и имеетбо́льшее количество вариантов. Есть также сайты и программы, пишущие стихи (достаточно задать две строки и первую рифму), создающие дизайн-проект интерьера. Творчество уже не всегда требует таланта человека, что таит дополнительную опасность.
Наконец, серьезную угрозу представляет возможность ухода из реальной жизни в виртуальную или дополненную. Человек может создать виртуальное окружение, населить его приятными ему искусственными людьми. «Искусственный интеллект может в вас влюбиться. Какой молодой человек откажется от такого!» — отмечает Александр Хомяков. Ведь созданный персонаж не будет «спорить, просить денег, ругать».
По его словам, уже разработаны шлем и костюмы, в которых есть специальные зоны, дающие небольшие электрические разряды, создающие разные телесные и даже эмоциональные ощущения.
Мы теряем опору в реальности, мы все больше видим собеседников через видео и социальные сети, причем их все сложнее идентифицировать, понять, реальный это человек или виртуальный образ
В будущем может возникнуть и серьезная угроза самостоятельного принятия решений искусственным интеллектом. Это, полагает Александр Хомяков, станет возможным, когда система получит модель самой себя. Тогда у нас появится ИИ, который может отказаться выполнять поставленную ему задачу и будет принимать собственные решения. Чтобы предотвратить эту угрозу, нужно заранее разработать меры, препятствующие выходу ИИ из-под контроля.
Старший научный сотрудник Научно-учебной лаборатории трансцендентальной философии ВШЭ Диана Гаспарян полагает, что описанные докладчиком угрозы неравнозначны. Уход от реальности представляется ей наименее опасным, поскольку человеку скучно общаться с искусственным интеллектом. Возможно, разработчики ИИ будут пытаться обмануть людей, создавая видимость субъектности виртуальных собеседников.
По мнению Александра Хомякова, высокую опасность виртуализации отражает вовлечение миллионов людей в компьютерные игры. Они отдают себе отчет в том, что находятся в вымышленном мире, «но играют до ночи и до красных глаз, потому что там вырабатываются эмоции». Этому, полагает эксперт, способствует качественная проработка персонажей, вызывающих симпатию игроков.
Вам также может быть интересно:
В Вышке создали собственную MLOps-платформу
Ученые НИУ ВШЭ создали MLOps-платформу SmartMLOps. Она предназначена для исследователей в области искусственного интеллекта, которые хотели бы превратить свое изобретение в полноценный сервис. В будущем на платформе могут быть развернуты ИИ-помощники для упрощения образовательного процесса, оказания медицинской помощи, консультирования и решения многих других задач. Создатели ИИ-технологий смогут получить готовый к работе сервис в течение считанных часов. На суперкомпьютере Вышки этот сервис может быть запущен в несколько кликов.
«От нашей общей работы зависит будущее»: что несет человечеству развитие ИИ
Какие перспективы и вызовы для человечества несет развитие технологий искусственного интеллекта? Как его используют ученые? Каким будет мир, где доминирует ИИ? Эти и другие темы обсудили эксперты на форсайт-сессии «Будущее исследований в сфере искусственного интеллекта», которая прошла в НИУ ВШЭ.
ИИ позволит точно моделировать производительность систем хранения данных
Исследователи факультета компьютерных наук НИУ ВШЭ разработали новый подход к моделированию систем хранения данных на основе генеративных моделей машинного обучения. Он позволяет с высокой точностью предсказывать ключевые характеристики работы таких систем при различных условиях. Результаты опубликованы в журнале IEEE Access.
ИИ в образовании: как преодолеть соблазн готовых решений
Искусственный интеллект уже стал обыденностью для молодежи: как показал опрос, около 87% студентов ведущих вузов используют ИИ в процессе обучения. Большая часть из них отметила, что он помогает им экономить время, при этом они проверяют сделанную ИИ работу. Результаты исследования были представлены на конференции по анализу данных и технологиям ИИ Data Fusion. В ее работе приняли участие научный руководитель НИУ ВШЭ Ярослав Кузьминов и другие эксперты Вышки.
Большинство студентов не верят, что ИИ сможет заменить их на работе
Большинство студентов считают, что ИИ не сможет заменить их на работе в ближайшие десять лет. Низким такой риск называют 27,2% респондентов, 41,5% — крайне маловероятным. Эти оценки были получены НИУ ВШЭ в ходе опроса 4200 студентов в 2025 году. Они приводятся в докладе «Эпоха больших языковых моделей: почему они все еще не профессионалы», подготовленном научным руководителем НИУ ВШЭ Ярославом Кузьминовым и старшим преподавателем кафедры высшей математики НИУ ВШЭ Екатериной Кручинской. Доклад был представлен на XXV Ясинской (Апрельской) международной научной конференции по проблемам развития экономики и общества, которая проходит с 15 по 18 апреля в НИУ ВШЭ.
Точный ИИ-оракул: какие тренды интересуют бизнес
Современные технологии ежедневно меняют мир, автоматизируя бизнес-процессы в различных отраслях. Специалисты НИУ ВШЭ представили масштабный опыт команды iFORA по реализации ИИ-проектов в интересах крупных компаний и органов власти.
Перспективы ИИ: математика машинного обучения в фокусе
Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ провел выездной воркшоп «Математика машинного обучения». Здесь собрались ведущие ученые и специалисты НИУ ВШЭ в области машинного обучения, математики и статистики. В центре внимания исследователей оказались математические аспекты, лежащие в основе современных и наиболее перспективных направлений машинного обучения. Программа воркшопа включала мини-курсы, практические работы, доклады и круглый стол, посвященный перспективам развития ИИ в России.
Внедрение искусственного интеллекта в организации: какие эффекты отмечают сотрудники
45% организаций, которые занимались внедрением ИИ в работу, заявили о повышении производительности труда в результате его использования. Об этом говорится в исследовании «Внедрение ИИ в работу организаций: чем обусловлена вариация эффектов на труд?». Исследование проведено директором Центра статистики труда и заработной платы ИСИЭЗ НИУ ВШЭ Анной Демьяновой и стажером-исследователем центра Дарьей Талакаускас. Оно было презентовано на XXV Ясинской (Апрельской) международной научной конференции по проблемам развития экономики и общества (XXV ЯМНК), проходящей в НИУ ВШЭ с 15 по 18 апреля.
«Идею всегда задает человек»: что дает ИИ образованию и медиа
ИИ-технологии меняют принципы работы образования и медиаиндустрии. Большинство студентов уже в той или иной мере используют ИИ, а нейросети уже массово производят все виды контента. Возможности и вызовы эксперты обсудили на конференции «Образование и медиа в эпоху цифровых перемен», организованной Дирекцией по маркетинговым коммуникациям НИУ ВШЭ и «Яндекс Образованием».
В Вышке стартовали открытые семинары «ИИ в индустрии»
Институт искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ запустил цикл открытых семинаров. Встречи посвящены актуальным вопросам внедрения искусственного интеллекта в различные отрасли экономики. Семинары проводятся еженедельно в 18:00 в кампусе на Покровском бульваре. Для участников также предусмотрена онлайн-трансляция.