25 ведущих математиков мира опубликовали письмо об опасности ИИ
А другой ученый говорит, что ИИ с 10% вероятностью уничтожит человечество через 10 лет
Группа из 25 ученых-математиков создала проект «Math and AI» и подписала письмо, в котором они размышляют о возможных последствиях развития ИИ. По их мнению, ИИ вредит науке и сообществу, а способность ИИ решать сложные задачи не помогает достичь концептуального понимания и прозрения.
25 ученых-математиков, лауреатов Филдсовской премии, опубликовали письмо на сайте проекта «Math and AI» через три дня после того, как компания OpenAI заявила, что ее ИИ-агенты смогли решить задачу тысячелетия.
«Стремление компаний, занимающихся искусственным интеллектом, использовать решение математических задач в качестве теста производительности наносит ущерб науке математике и математическому сообществу. Цели компаний, занимающихся искусственным интеллектом, и цели математического сообщества серьезно расходятся».
Из письма об опасности ИИ «Math and AI»
Ученые отмечают, что математики занимаются изучением основных структур форм, чисел и природных явлений. На протяжении поколений в этой области сформировался обширный корпус сложных идей, методов, абстракций и других инструментов для понимания математического ландшафта. А решение известных сложных задач было сигналом улучшения понимания, признаком новых идей и интересных методов, которые после широко обсуждались сообществом.
ИИ, возможно, и научился решать сложные задачи, но решение задач — это всего лишь инструмент и средство достижения главной цели — концептуального понимания и проницательности.
«Забывая об этом в мире ИИ, можно обратить инструмент против его главной цели. Действительно, массовое производство утверждений типа „истина/ложь“ с постоянно возрастающей скоростью может уничтожить плодородную почву, вместо того чтобы вдохнуть жизнь в новые идеи», — пишут ученые.
Параллельно со скандалом вокруг решения ИИ задачи тысячелетия сейчас в СМИ и соцсетях обсуждают недавнее заявление бывшего исследователя ИИ Эвана Хубингера.
Он покинул Anthropic и OpenAI и опубликовал серию постов, в которых утверждает, что с 10% вероятностью ИИ может уничтожить человечество в ближайшее десятилетие.
«Ни одна из компаний не действует ответственно. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, совершать революцию в любой области за одну ночь и приобретать реальную власть и ресурсы».
Из сообщения Эвана Хубингера
Kuki Ladron de Guevara / Shutterstock / Fotodom
Короче:
ИИ без человека — это ноль без палочки.
ИИ убедителен для тех, кто не является специалистом в той области, из которой он увидел результат от ИИ. Профессионал же увидит в работе ИИ всего лишь плагиат высшей пробы https://mel.fm/blog/menedzhment-rynochny/79483-ii-kak-plagiator-vysshey-proby
Читайте также
Популярные комментарии
ОльгаКак только читаешь что-то подобное, сразу становится как-то неуютно… Как вообще в школе можно унифицировать что-то, что относится к оцениванию знаний школьника?
Минпросвещения разработало единые критерии оценки школьных работ- Helen
Как же сложно быть подростком. Казалось бы, что нет ничего проще, как подойти к мальчику или девочке и сказать, что ты мне нравишься.Но нет, проблемы какие-то дурацкие в голове.Я своему ребенку посоветовала решать проблемы делами. Нравится кто-то? Подойди, познакомься простыми фразами: привет, как тебя зовут, самому представится, где учишься, где живёшь, есть ли домашние животные, есть ли братья сестры, чем занимается вне школы, какие есть увлечения, и прочее, угости шоколадкой, предложи сходить в кино, после уроков съесть по мороженому, на переменах поговорить об интересах. Обменяться номерами телефонов. Да куча всяких разностей. Можно ничего не говорить о своих «любовях», а входить в жизнь понравившегося человечка. Подарить карандаш простой и красивый, ручку, резинку стирательную. В столовой сесть рядом или место занять. Кидать комплименты приятные.Можно предложить сидеть вместе за партой.При влюбленностях подростков важно помнить, что самое главное, что есть у него -это жизнь и нет ничего важнее жизни. Родителям в такой трудный промежуток жизни подростка нужно быть рядом и поддерживать в ребенке самоуважение, развитие критичности мышления, рациональности общения.
Я влюбился в одноклассницу, но боюсь ей признаться. Что мне делать? - Алина Сен-Люк
Ужасная, некорректная акция, которая не учит добру и милосердию, ибо благотворительность — это когда от себя что-то отрываешь, а не у другого человека забираешь… Да и не было никогда у учителя моря цветов в вёдрах. Не все ведь в первых классах работают.
«Все эти акции вместо цветов — спекуляция чувствами учителя»: педагоги — о том, нужны ли им букеты на 1 Сентября
