По оценке Соареса, вероятность гибели человечества от ИИ составляет «по меньшей мере 95%». Он убеждён, что разработка машинного интеллекта движется по опасной траектории, и в скором будущем мы можем начать создавать сверхмощные интеллектуальные системы, «не понимая, что именно создаём».
Газета подчёркивает, что на данный момент искусственный интеллект всё ещё находится на начальных этапах развития. Однако масштабные инвестиции и ускоряющийся технический прогресс могут быстро привести к созданию так называемого общего ИИ — систем, сопоставимых по возможностям с человеческим разумом, но лишённых его ограничений.
Такой ИИ, как отмечается, не нуждается во сне, пище или времени на обучение. Он способен мгновенно передавать весь накопленный опыт и знания «следующим поколениям» алгоритмов, что создаёт риск тотального технологического доминирования над людьми.
Соарес призывает к срочному переосмыслению приоритетов в сфере ИИ и созданию систем регулирования, прежде чем станет слишком поздно.
