По информации издания Axios, недавно из передовых фирм, занимающихся нейросетями, ушли уже 10 сотрудников. Это не рядовые менеджеры, а представители руководства и ведущие инженеры. Причина — тревога из-за развития технологий, которые могут стать причиной катастрофы для человечества.
Илон Маск, основатель Grok, у себя на странице в X оценил p(doom) в 20%. P(doom) изначально была шуткой, но теперь стала серьёзной метрикой, измеряющей риск гибели человечества от сверхразумного ИИ. Генеральный директор Google Сундар Пичаи в подкасте у Лекса Фридмана назвал схожий диапазон — от 15% до 25%.
Речь идёт об AGI — сильном искусственном интеллекте, сравнимом с человеческим, способным к универсальному обучению и решению задач. Никто точно не знает, когда он появится. Тот же Пичаи считает, что это произойдёт чуть позже, чем через 5 лет.
Для оптимистов, не видящих в ИИ угрозы, авторы исследования высказали своё мнение:
Сами разработчики ИИ оценивают вероятность уничтожения человечества в 1 из 10, а возможно, даже в 1 из 5. Сели бы вы на самолёт с такими шансами? Стали бы строить самолёт и пускать на него людей при таких рисках?