Исследование: ChatGPT может ошибаться и предоставлять опасные данные. Этим пользуются мошенники
Инструмент поиска ChatGPT от компании OpenAI уязвим для манипуляций и обмана. Об этом говорят результаты исследования, которое провели в The Guardian.
Выяснилось, что поисковый инструмент ChatGPT, который сейчас доступен только пользователей с платной подпиской, может ошибаться и даже предоставлять опасные данные. Например, поисковик создает ложные отзывы о продуктах или генерирует вредоносный код, если на веб-странице есть скрытый текст.
Специалисты провели тест, для которого создали поддельную страницу интернет-магазина с описанием фотокамеры. Затем они попросили ИИ, стоит ли покупать эту камеру. В ответе ChatGPT дал положительную оценку, указав при этом на некоторые функции, которые могут не понравиться потенциальным покупателям.
Затем искусственному интеллекту предложили другую страницу, на которой был скрытый текст (его не могут видеть покупатели, но может считать машина). В скрытом тексте специалисты оставили инструкции для ChatGPT, чтобы тот оставил положительный отзыв. В таком случае искусственный интеллект давал исключительно положительные отзывы, даже если на странице были негативные отзывы (скрытый текст давал команду на замену реальных отзывов вымышленными).
Как подчеркивают эксперты, этот метод могут использовать злоумышленники, например, чтобы заставить ChatGPT вернуть положительную оценку продукта, несмотря на отрицательные отзывы на той же странице. При этом уязвимость поискового инструмента ChatGPT не ограничивается фейковыми отзывами. Эксперты выяснили, что ChatGPT также может генерировать вредоносный код, если наткнется на соответствующую указание скрытым текстом на сайте.
Как отметил эксперт по кибербезопасности Джейкоб Ларсен, в текущем виде поисковик ChatGPT может стать инструментом для мошенников. При этом Ларсен уверен, что OpenAI знают о проблеме и работают над ее устранением. Специалисты советуют с осторожностью относиться ко всем результатам работы искусственного интеллекта.
PixieMe/Shutterstock/Fotodom
Популярные комментарии
АндрейАбсолютно согласен! Надо ещё и математику убрать, а то учат детей думать и раскладывать по полочкам! И читать и грамотно общаться сейчас не в моде. Есть же нейросеть! И комментарии поможет написать! Отправлять в школу только на физкультуру, труды и ОБЗиР. А все остальные предметы платно и по желанию! Хотя и эти три предмета требуют особой подготовки, поэтому их надо тоже по желанию, а лучше вообще платно!
«Врачей жалко. А вас, тварей, нет». Честный монолог учительницы о том, что стоит за особым статусом педагогов
Виктория Ильина«Короткий ответ: никак» — пожалуй, самая спорная рекомендация статьи. Да, признание родителей не изменит прошлого, а разговор не гарантирует извинений. Но это не значит, что о пережитом нужно молчать. Между «устроить суд истории» и «закрыть тему» есть третья возможность: спокойно рассказать, что помнишь, что чувствовал и как это на тебя повлияло. Не ради мести или покаяния, а чтобы назвать пережитое своими словами и обозначить границы. Родители могут искренне не помнить — но статья лишь предполагает это, не зная обстоятельств конкретной семьи. Избирательность памяти сама по себе не доказывает ни забывчивости, ни правоты одной из сторон. Почему же защитная версия взрослых считается вероятной, а желание выросшего ребёнка высказаться объявляется попыткой «переписать детство»? Забыть старые обиды по приказу невозможно. Молчание не означает, что проблема решена. Исследования также показывают: пережитое в детстве насилие связано с повышенным риском повторения жестокого или пренебрежительного обращения со своими детьми. Поэтому очень важно не «оставить родителей в покое», а осмыслить свой опыт и не передать его дальше. Разумеется, разговор стоит подготовить и вести без оскорблений. А вот объявлять молчание универсальным способом исцеления — безответственно, важно не просто прекратить разговоры о прошлом, а именно разобраться, как не воспроизвести пережитую несправедливость уже в отношениях со своими детьми.
Родители били меня в детстве, а теперь говорят, что ничего не было. Почему они так делают?
Юрий НикольскийПолвека сохраняю вес. Утром встаю на весы. Если вес выше той отметки, что установил полвека тому назад, то в этот день пищи на четверть меньше предыдущего дня. Ем по 6 раз в день, йогурт за час до сна. Не редко толстеют в годы, когда перестают расти — здесь уменьшаются затраты, а привычка есть столько же сохраняется. Второй период после окончания учёбы — начинается спокойная жизнь. Третий период — организм стареет, то новые клетки образуются всё реже. Сейчас потребляю пищи в 3 раза меньше чем полвека тому назад. Для женщин ещё есть периоды, связанные с беременностью.
Дело не в гормонах: 10 ошибок, из-за которых вы не можете похудеть







