Искусственный интеллект может стать «серьезно опасным» в ближайшие 5 лет: Элон Маск

Искусственный интеллект может стать «серьезно опасным» в ближайшие 5 лет: Элон Маск

Новости

Со времен первых компьютеров прошло немало дебатов по поводу сингулярности — гипотетического момента в будущем, когда программное обеспечение станет обладать самосознанием и станет интеллектуальным настолько, что человечество неспособно будет это осознать. Некоторые говорят, что это будет благом для человечества, некоторые опасаются апокалипсиса, вызванного ИИ — искусственным интеллектом.

Знаменитый предприниматель Элон Маск был в последнем лагере. Теперь мы знаем, что основатель SpaceX и Tesla предполагает, что гибельные последствия ИИ приближаются быстрее, чем кто-либо подозревает — в ближайшие 5-10 лет.

Все началось в прошлую пятницу, когда пионер исследований виртуальной реальности Джарон Ланье на сайте edge.org обсуждал потенциальную угрозу искусственного интеллекта в статье под названием Миф о ИИ, многие светила науки и техники в высказались по теме в комментариях. Среди этих замечаний были мысли Маска, которые звучали особенно тревожно.

«Риск что случится что-то по-настоящему опасное лежит в пределах пятилетнего срока. 10 лет — самое большее», — пишет Маск. «Обратите внимание, что я обычно выступаю«за» технологии и никогда не поднимал этот вопрос до последних месяцев. Это не тот случай, когда я бью ложную тревогу о чем-то, чего не понимаю».

Однако с этим заявлением есть одна проблема: по словам представителя Маска, эти замечания были отправлены по электронной почте Джону Брокману — владельцу сайта — и не были предназначены для размещения в открытом доступе.

Вскоре после после появления комментария, он был удален, но скриншот комментария был размещен на Reddit, выставив его на обозрение всего Интернета.

Помимо пугающего срока в прогнозе, общественность встревожило упоминание DeepMind — реальной компании, ведущей разработки в области ИИ, в которую Маск инвестировал.

«Темпы прогресса в области искусственного интеллекта невероятно быстры», — сказал Маск. «Если у вас нет прямого взаимодействия с группами исследователей, такими, как Deepmind, вы понятия не имеете, как  они быстро растут — темпами, близкими к экспоненциальным».

«Я не один, кто думает, что мы должны быть обеспокоены», — продолжает Маск. «Ведущие ИИ-компании предприняли серьезные шаги для обеспечения безопасности. Они признают опасность, но верят, что смогут формировать и контролировать цифровые суперинтеллекты и предотвратить их «побег» в Интернете. Это еще предстоит выяснить».

Ранее Маска говорил о потенциальной опасности ИИ, сравнивая их с угрозой ядерного оружия и «демоном», которого вызвало человечество. Однако Маска до этого не брался утверждать, что опасность ИИ придет так скоро.

Представитель Маска заявил, что предприниматель намерен опубликовать более длинный пост на тему искусственного интеллекта в ближайшее время.

Искусственный интеллект может стать "серьезно опасным" в ближайшие 5 лет: Элон Маск by

Возможно, вас также заинтересует:

При копировании материалов ссылка обязательна.