25 ведущих математиков мира опубликовали письмо об опасности ИИ
А другой ученый говорит, что ИИ с 10% вероятностью уничтожит человечество через 10 лет
Группа из 25 ученых-математиков создала проект «Math and AI» и подписала письмо, в котором они размышляют о возможных последствиях развития ИИ. По их мнению, ИИ вредит науке и сообществу, а способность ИИ решать сложные задачи не помогает достичь концептуального понимания и прозрения.
25 ученых-математиков, лауреатов Филдсовской премии, опубликовали письмо на сайте проекта «Math and AI» через три дня после того, как компания OpenAI заявила, что ее ИИ-агенты смогли решить задачу тысячелетия.
«Стремление компаний, занимающихся искусственным интеллектом, использовать решение математических задач в качестве теста производительности наносит ущерб науке математике и математическому сообществу. Цели компаний, занимающихся искусственным интеллектом, и цели математического сообщества серьезно расходятся».
Из письма об опасности ИИ «Math and AI»
Ученые отмечают, что математики занимаются изучением основных структур форм, чисел и природных явлений. На протяжении поколений в этой области сформировался обширный корпус сложных идей, методов, абстракций и других инструментов для понимания математического ландшафта. А решение известных сложных задач было сигналом улучшения понимания, признаком новых идей и интересных методов, которые после широко обсуждались сообществом.
ИИ, возможно, и научился решать сложные задачи, но решение задач — это всего лишь инструмент и средство достижения главной цели — концептуального понимания и проницательности.
«Забывая об этом в мире ИИ, можно обратить инструмент против его главной цели. Действительно, массовое производство утверждений типа „истина/ложь“ с постоянно возрастающей скоростью может уничтожить плодородную почву, вместо того чтобы вдохнуть жизнь в новые идеи», — пишут ученые.
Параллельно со скандалом вокруг решения ИИ задачи тысячелетия сейчас в СМИ и соцсетях обсуждают недавнее заявление бывшего исследователя ИИ Эвана Хубингера.
Он покинул Anthropic и OpenAI и опубликовал серию постов, в которых утверждает, что с 10% вероятностью ИИ может уничтожить человечество в ближайшее десятилетие.
«Ни одна из компаний не действует ответственно. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, совершать революцию в любой области за одну ночь и приобретать реальную власть и ресурсы».
Из сообщения Эвана Хубингера
Kuki Ladron de Guevara / Shutterstock / Fotodom
Короче:
ИИ без человека — это ноль без палочки.
ИИ убедителен для тех, кто не является специалистом в той области, из которой он увидел результат от ИИ. Профессионал же увидит в работе ИИ всего лишь плагиат высшей пробы https://mel.fm/blog/menedzhment-rynochny/79483-ii-kak-plagiator-vysshey-proby
Читайте также
Популярные комментарии
Виктория ИльинаРазговор о достойной оплате учительского труда сложнее простой формулы «надо повысить зарплаты». С главным тезисом героя статьи трудно спорить: педагог не должен думать, чем прокормить семью, и быть вынужденным добирать доход репетиторством. Но базовый уровень оплаты должен быть достойным не только в сильном столичном лицее. Хороший учитель одинаково нужен и в Москве, и в районной школе, и в селе. Право ребёнка на качественное образование не должно зависеть от места жительства. А дальше логичны дополнительные стимулы: надбавки за квалификацию, подготовку стобалльников, победителей олимпиад, серьёзные результаты учеников. Тем более статья показывает, какой труд стоит за работой с сильными и мотивированными детьми. Но есть и неудобный вопрос: насколько востребована значительная часть знаний, которые школа по единой программе обязана давать всем? Учитель здесь во многом связан требованиями системы. Однако если обучение почти не учитывает склонности и будущую траекторию ребёнка, возникает разрыв между объёмом обязательных знаний и их последующей практической ценностью. Можно сколько угодно говорить о «гармонично развитой личности», но общество в конечном счёте выше ценит то, что даёт ощутимый результат. И этот вопрос тоже нельзя исключать из разговора о зарплате учителя.
«Мы придумали делить детей на два сорта»: директор тамбовского лицея и заслуженный учитель — о культе олимпиад
Евгения СамотохинаТо что отрицательные оценки нужны — я согласна, но здесь должен быть ряд факторов: 1) как по мне текущая система оценки (пятибалльная, а по факту четырехбальная) — не то чтобы объективная. Особенно чувствуется на объемных заданиях в старших классах, когда в тексте на 2 страницы допустил 2-3 ошибки и пооучаешь тройку. Как по мне система должна иметь разбивку хотя бы в 10 баллов. 2) Часто каждый учитель сам определяет как оценивать ученика. Если с точными науками и каким-нибудь диктантом ещё более-менее понятно, то с более творческими заданиями, пересказами вообще непонятно — у одного учителя ты получаешь 5 у другого за пересказ того же качества — 3.
«Двойка должна жить». Учитель — о том, почему плохие оценки нужны детям
АнастасияДа уж… Уважительное общение не включено в общеобразовательные стандарты и экзаменационные вопросы. Можно иметь аттестат и даже не один диплом, но при этом оставаться полнейшим хамом. Системный кризис.
«Короче, училка, варежку свою закрой». Топ-20 цитат из переписок родителей с учителями, от которых волосы встают дыбом
