25 ведущих математиков мира опубликовали письмо об опасности ИИ
А другой ученый говорит, что ИИ с 10% вероятностью уничтожит человечество через 10 лет
Группа из 25 ученых-математиков создала проект «Math and AI» и подписала письмо, в котором они размышляют о возможных последствиях развития ИИ. По их мнению, ИИ вредит науке и сообществу, а способность ИИ решать сложные задачи не помогает достичь концептуального понимания и прозрения.
25 ученых-математиков, лауреатов Филдсовской премии, опубликовали письмо на сайте проекта «Math and AI» через три дня после того, как компания OpenAI заявила, что ее ИИ-агенты смогли решить задачу тысячелетия.
«Стремление компаний, занимающихся искусственным интеллектом, использовать решение математических задач в качестве теста производительности наносит ущерб науке математике и математическому сообществу. Цели компаний, занимающихся искусственным интеллектом, и цели математического сообщества серьезно расходятся».
Из письма об опасности ИИ «Math and AI»
Ученые отмечают, что математики занимаются изучением основных структур форм, чисел и природных явлений. На протяжении поколений в этой области сформировался обширный корпус сложных идей, методов, абстракций и других инструментов для понимания математического ландшафта. А решение известных сложных задач было сигналом улучшения понимания, признаком новых идей и интересных методов, которые после широко обсуждались сообществом.
ИИ, возможно, и научился решать сложные задачи, но решение задач — это всего лишь инструмент и средство достижения главной цели — концептуального понимания и проницательности.
«Забывая об этом в мире ИИ, можно обратить инструмент против его главной цели. Действительно, массовое производство утверждений типа „истина/ложь“ с постоянно возрастающей скоростью может уничтожить плодородную почву, вместо того чтобы вдохнуть жизнь в новые идеи», — пишут ученые.
Параллельно со скандалом вокруг решения ИИ задачи тысячелетия сейчас в СМИ и соцсетях обсуждают недавнее заявление бывшего исследователя ИИ Эвана Хубингера.
Он покинул Anthropic и OpenAI и опубликовал серию постов, в которых утверждает, что с 10% вероятностью ИИ может уничтожить человечество в ближайшее десятилетие.
«Ни одна из компаний не действует ответственно. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, совершать революцию в любой области за одну ночь и приобретать реальную власть и ресурсы».
Из сообщения Эвана Хубингера
Kuki Ladron de Guevara / Shutterstock / Fotodom