25 ведущих математиков мира опубликовали письмо об опасности ИИ
А другой ученый говорит, что ИИ с 10% вероятностью уничтожит человечество через 10 лет
Группа из 25 ученых-математиков создала проект «Math and AI» и подписала письмо, в котором они размышляют о возможных последствиях развития ИИ. По их мнению, ИИ вредит науке и сообществу, а способность ИИ решать сложные задачи не помогает достичь концептуального понимания и прозрения.
25 ученых-математиков, лауреатов Филдсовской премии, опубликовали письмо на сайте проекта «Math and AI» через три дня после того, как компания OpenAI заявила, что ее ИИ-агенты смогли решить задачу тысячелетия.
«Стремление компаний, занимающихся искусственным интеллектом, использовать решение математических задач в качестве теста производительности наносит ущерб науке математике и математическому сообществу. Цели компаний, занимающихся искусственным интеллектом, и цели математического сообщества серьезно расходятся».
Из письма об опасности ИИ «Math and AI»
Ученые отмечают, что математики занимаются изучением основных структур форм, чисел и природных явлений. На протяжении поколений в этой области сформировался обширный корпус сложных идей, методов, абстракций и других инструментов для понимания математического ландшафта. А решение известных сложных задач было сигналом улучшения понимания, признаком новых идей и интересных методов, которые после широко обсуждались сообществом.
ИИ, возможно, и научился решать сложные задачи, но решение задач — это всего лишь инструмент и средство достижения главной цели — концептуального понимания и проницательности.
«Забывая об этом в мире ИИ, можно обратить инструмент против его главной цели. Действительно, массовое производство утверждений типа „истина/ложь“ с постоянно возрастающей скоростью может уничтожить плодородную почву, вместо того чтобы вдохнуть жизнь в новые идеи», — пишут ученые.
Параллельно со скандалом вокруг решения ИИ задачи тысячелетия сейчас в СМИ и соцсетях обсуждают недавнее заявление бывшего исследователя ИИ Эвана Хубингера.
Он покинул Anthropic и OpenAI и опубликовал серию постов, в которых утверждает, что с 10% вероятностью ИИ может уничтожить человечество в ближайшее десятилетие.
«Ни одна из компаний не действует ответственно. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, совершать революцию в любой области за одну ночь и приобретать реальную власть и ресурсы».
Из сообщения Эвана Хубингера
Kuki Ladron de Guevara / Shutterstock / Fotodom
Популярные комментарии
Владимир КунаевВ РФ большая беда в сфере психологии. Нет четких профстандартов, нет справедливых механизмов проверки компетенций. В добавок ко всему этому действительно толковые молодые специалисты не могут выйти на рынок из-за массивного пейвола (из личного опыта). Проблем столько, что на целый цикл статей хватило бы, если погружаться.
Я редактор. Вот почему я не доверяю всем, кто называет себя психологом
Светлана ПлехановаЯ Вас умоляю, по закону ничего нельзя сделать. Многие молодые люди себе не представляют, как достаются деньги! Им кажется, что булки растут на деревьях, а пироги падают с неба. Многое вокруг пропагандирует светский образ жизни, сидение на чужой шее, бездумное, безалаберное отношение к деньгам. Неуважение к чужому труду тоже в чести. Многие унижают тружеников сферы обслуживания. А эти люди делаю нашу жизнь комфортной. Их приветливая улыбка, вежливая речь дарят хорошее настроение!
Дочь учится на платном и даже подработку не ищет – живет за наш счет, и ей нормально. Как с ней поговорить?
АндрейАбсолютно согласен! Надо ещё и математику убрать, а то учат детей думать и раскладывать по полочкам! И читать и грамотно общаться сейчас не в моде. Есть же нейросеть! И комментарии поможет написать! Отправлять в школу только на физкультуру, труды и ОБЗиР. А все остальные предметы платно и по желанию! Хотя и эти три предмета требуют особой подготовки, поэтому их надо тоже по желанию, а лучше вообще платно!
«Врачей жалко. А вас, тварей, нет». Честный монолог учительницы о том, что стоит за особым статусом педагогов








