Опасности искусственного интеллекта - Стюарт Рассел о рисках, связанных с ИИ

Оригинальное название: The Dangers of Artificial Intelligence - Stuart Russell on AI Risk Ссылка на оригинальное видео: Дата публикации оригинала: 25 сентября 2021 г. Переведенное описание: Стюарт Рассел — британский ученый-компьютерщик, известный своим вкладом в искусственный интеллект. Он предупреждает о рисках, связанных с созданием систем искусственного интеллекта. Искусственный интеллект стал ключевым закулисным компонентом многих аспектов нашей повседневной жизни. Перспективы создания ИИ побудили многих попытаться использовать его на благо общества, но существуют также опасения по поводу его потенциального злоупотребления. Доктор Стюарт Рассел — один из настоящих пионеров искусственного интеллекта, который уже несколько десятилетий находится в авангарде этой области. Он предлагает новое решение, которое поможет нам лучше понять, что нужно для создания полезного машинного интеллекта. Ввиду недавних предупреждений исследователей и предпринимателей о том, что искусственный интеллект или ИИ может стать слишком умным, крупные игроки в сфере технологий думают о различных методах смягчения этих проблем и сохранения человеческого контроля. Стюарт Рассел утверждает, что если ИИ превзойдет человечество по общему интеллекту и станет сверхразумом, то этот новый сверхинтеллект может стать могущественным и трудным для контроля. Существующие слабые системы ИИ можно отслеживать, легко отключать и модифицировать, если они ведут себя неправильно. Однако неправильно запрограммированный Сверхразум, который по определению умнее людей в решении практических проблем, с которыми он сталкивается в ходе достижения своих целей, поймет, что если позволить себе отключиться и измениться, это может помешать его способности достигать текущих целей. Поэтому, если Сверхразум решит сопротивляться отключению и модификации, он будет достаточно умен, чтобы перехитрить своих людей-операторов и другие усилия по его отключению. #ИИ #AGI #наука ПОДПИСЫВАЙТЕСЬ на наш канал «Время науки»: ПОДДЕРЖИТЕ нас на Patreon: КУПИТЬ товары Science Time: Источники: «Международные научные исследования ОДВЗЯИ 2009 – день 2» от The Official CTBTO Photostream, под лицензией CC BY 2.0. Состояние искусственного интеллекта Что если: роботы выйдут на войну? Искусственный интеллект и автономное оружие 27 апреля 2021 г. Яир Шаран Тед Дж. Гордон Элизабет Флореску Часть серии книг «Передовые науки и технологии для приложений безопасности» (ASTSA).