Исследование: ChatGPT может ошибаться и предоставлять опасные данные. Этим пользуются мошенники
Инструмент поиска ChatGPT от компании OpenAI уязвим для манипуляций и обмана. Об этом говорят результаты исследования, которое провели в The Guardian.
Выяснилось, что поисковый инструмент ChatGPT, который сейчас доступен только пользователей с платной подпиской, может ошибаться и даже предоставлять опасные данные. Например, поисковик создает ложные отзывы о продуктах или генерирует вредоносный код, если на веб-странице есть скрытый текст.
Специалисты провели тест, для которого создали поддельную страницу интернет-магазина с описанием фотокамеры. Затем они попросили ИИ, стоит ли покупать эту камеру. В ответе ChatGPT дал положительную оценку, указав при этом на некоторые функции, которые могут не понравиться потенциальным покупателям.
Затем искусственному интеллекту предложили другую страницу, на которой был скрытый текст (его не могут видеть покупатели, но может считать машина). В скрытом тексте специалисты оставили инструкции для ChatGPT, чтобы тот оставил положительный отзыв. В таком случае искусственный интеллект давал исключительно положительные отзывы, даже если на странице были негативные отзывы (скрытый текст давал команду на замену реальных отзывов вымышленными).
Как подчеркивают эксперты, этот метод могут использовать злоумышленники, например, чтобы заставить ChatGPT вернуть положительную оценку продукта, несмотря на отрицательные отзывы на той же странице. При этом уязвимость поискового инструмента ChatGPT не ограничивается фейковыми отзывами. Эксперты выяснили, что ChatGPT также может генерировать вредоносный код, если наткнется на соответствующую указание скрытым текстом на сайте.
Как отметил эксперт по кибербезопасности Джейкоб Ларсен, в текущем виде поисковик ChatGPT может стать инструментом для мошенников. При этом Ларсен уверен, что OpenAI знают о проблеме и работают над ее устранением. Специалисты советуют с осторожностью относиться ко всем результатам работы искусственного интеллекта.
PixieMe/Shutterstock/Fotodom
Популярные комментарии
Виктория ИльинаЧто, на мой вгляд, произошло с современными детьми? Сегодня мы гораздо лучше умеем выявлять особенности развития детей. То, что раньше оставалось незамеченным или объяснялось словами «ленится», «невоспитанный», «не хочет учиться», сейчас может получить профессиональную оценку и поддержку. Поэтому создаётся ощущение, что таких детей стало резко больше. Необходимо также признать, что современная информационная среда серьёзно изменилась. Ребёнок сегодня живёт в потоке информации, который невозможно сравнить с тем, что было 20–30 лет назад. Одновременно выросли требования к скорости освоения знаний, объёму информации и самостоятельности школьника. При этом школа далеко не всегда успевает адаптироваться к новым условиямю Однако, на мой взгляд, главная причина проблемы лежит глубже. Изменилось отношение общества к школе и образованию. Для многих детей и родителей знания перестали быть безусловной ценностью, а школьные требования стали восприниматься скорее как формальность или препятствие. Одновременно снизился уровень дисциплины, родительского контроля и готовности ребёнка выполнять сложную, не всегда интересную работу. Нельзя сбрасывать со счетов и цифровую среду: компьютерные игры, гаджеты, социальные сети дают ребёнку быстрые эмоции и мгновенную обратную связь, тогда как учеба требует терпения, концентрации и усилий. В результате школе приходится конкурировать не только с внешними развлечениями, но и с изменившейся культурой детства.
Почему раньше дети спокойно сидели на уроках, а сейчас у половины класса либо СДВГ, либо РАС — и они всем мешают?
Александр КомнатныйЯ ни разу не комментировал статьи, но эту прокоментирую. Я ученик, учусь в 9 классе сельской школы. Наш класс, нельзя посчитать порядочным. Но, я скажу на основе личного опыта — дисциплина в классе будет, только когда дети будут боятся. ЛИБО, вы будете прям очень интересно вести предмет. А это редкость. Короче, если вы действительно хотите дисциплины — вам нужен обычный страх. Вы не должны говорить: «Всё, остаётесь у меня ещё на один урок», а потом не оставлять ещё на один урок. Ведь тогда, дети поймут — ничего вы им не сделаете. А вы должны делать. О вас должны ходить страшные легенды, и половина из них должна быть правдой. Тогда, у вас на уроках будет дисциплина. НО, важно — вы не должны ругать за неправильные ответы. Это точно. Ведь, есл вы будете орать из-за неправильного ответа, дети на ваших уроках вообще слова не скажут, а это тоже плохо. Нет, ругать вы должны только за дисциплину. А ещё — не бойтесь заваливать учеников двойками, а может даже колами.
Ученики срывают уроки и не слушают учителя. Как вернуть дисциплину за 4 шага
ОльгаЧто значит стукачество? Я считаю так: если тебя никак это не касается, то об этом рассказать должны участники. Макисмум, что должен сделать ребенок — рассказать об этом родителям, чтобы взрослые люди уже решали надо ли доводить ситуацию до сведения школьной администрации. А если ребенка избили, унизили или регулярно оскорбляют, то он имеет полное право и даже должен рассказать об этом взрослым: учителю и родителям. Потому что дети сами не разберутся — это все миф, что они могут и должны разобраться сами. Может именно это учительница и имела в виду, когда говорила, что дети должны ей все рассказывать? А родители сделали из мухи слона?
Учительница поощряет стукачество в классе. Стоит ли запрещать ребенку доносить на других?







