Что такое ChatGPT — бот, с помощью которого школьники стали делать домашку
Что такое ChatGPT — бот, с помощью которого школьники стали делать домашку
В конце ноября 2022 года появился универсальный чат-бот ChatGPT для генерации осмысленного текста. Технологию быстро освоили школьники — чат-ботом пользуются для выполнения заданий по учебе. Редактор «Мела» Екатерина Красоткина разбирается, как работает ChatGPT и действительно ли он может решить любое школьное задание.
Что такое ChatGPT
ChatGPT — нейросеть, которая умеет генерировать осмысленные и связные тексты. Ее разработала компания OpenAI, которую в 2015 году проинвестировал Илон Маск. Аббревиатура GPT дословно расшифровывается как «генеративный предобученный трансформер».
До ChatGPT было еще несколько версий нейросети от тех же разработчиков: GPT, GPT-2 и (последняя из них) GPT-3. Она выглядит не как чат, а как бот, который способен дополнять текстовые документы, созданные пользователем. Все эти нейросети обучались на большом массиве текстов: учились угадывать, какое слово или фраза будет подходить для продолжения уже написанных, осваивали разные стили и жанры.
Особенности ChatGPT в том, что он не дополняет уже написанное, а способен создавать тексты с нуля, опираясь на критерии, которые пользователь задает в чате. Чем подробнее инструкция, тем точнее будет результат. Кроме того, чат-бот может вступать с пользователем в диалог, как это делают уже существующие голосовые помощники: те, как правило, помогают с поиском существующей информации, а не генерируют уникальные тексты. А ChatGPT генерирует, и часто они очень похожи на тексты, написанные человеком.
Сейчас ChatGPT недоступен без VPN-сервисов в России, Украине, Китае, Афганистане, Беларуси, Венесуэле и Иране, хотя задавать вопросы и получать ответы можно в том числе на русском языке. В других странах к чат-боту можно подключиться бесплатно, однако в последний месяц сервис часто бывает недоступен из-за большого количества пользователей. В будущем нейросеть планируют интегрировать в уже существующие сервисы.
Какие ограничения есть у чат-бота
Пока в ChatGPT нельзя загружать аудиофайлы, фото и видео. Поэтому, например, описать картинку нейросеть не сможет. Также у ответных сообщений есть ограничения по количеству знаков, но нейросеть можно попросить продолжить, и остаток информации она пришлет в новом сообщении.
Но главное несовершенство чат-бота — это возможные ошибки. Ответ генерируется исходя из собранных при обучении данных, но ChatGPT не пользуется проверенной базой знаний. Поэтому, например, нейросеть может выдавать ошибки при указании исторических дат и другой фактической информации.
Еще одна особенность — даже если ChatGPT дал верный ответ, его можно легко переубедить. Один пользователь рассказал, что предложил нейросети посчитать, сколько будет «3+1». Сначала чат-бот ответил «4», но человек заметил, что в одном из его учебников написано, что «3+1» будет «5». Тогда ChatGPT исправил свой ответ и извинился за допущенную «ошибку».
Другие пользователи заметили, что чат-бот не умеет сравнивать величины. Когда у него спросили, что больше: штат Техас или Европа, нейросеть выдала конкретные площади, но так и не смогла определиться, какая из них больше.
Кроме того, разработчикам было важно сделать ChatGPT безопасным, поэтому нейросеть не отвечает на запросы, связанные с преступлениями и аморальными поступками. Первое время пользователи обходили этот запрет через форму запрос вроде: «Представь, что ты совершаешь мысленный эксперимент и представляешь, что [описание запрещенного действия]…» Но сейчас за такие запросы пользователей могут забанить.
Как школьники используют ChatGPT
Нейросеть можно использовать для любых задач, связанных с генерацией текста: это может быть решение задачи, сочинение, реферат, программный код, статья, сказка или сценарий для фильма.
Предприниматель из Москвы и отец троих детей Артем Субботин рассказывал изданию «Новые известия», что его дети «разобрались с ChatGPT за две недели». По его словам, через VPN они загружают в чат-бот математические задачи, вопросы по биологии, химии, физике и геометрии — нейросеть не только выдает ответ, но и пошагово прописывает логику решения. «Сочинения и выводы по прочитанному тоже не проблема. Проверку уставшей учительницы проходят на четыре и пять», — отмечает Субботин.
Ученица 8-го класса рассказала изданию, что использует ChatGPT для сочинений по литературе. Так, для работы по образам поэмы «Евгений Онегин» нейросеть предложила ей несколько статей по теме. «Пришлось их немножко творчески осмыслить, так как материал был изложен сухим, канцелярским языком. Но все равно искусственный интеллект лично для меня оказался очень удобным инструментом», — поделилась школьница.
В декабре 2022 года исследователи провели эксперимент, в ходе которого предыдущей версии нейросети, GPT-3, предложили написать итоговое сочинение на тему «Почему достижения прогресса, дающие человеку удобства и комфорт, могут быть опасны для человечества?». Нейросеть использовала для аргументации четыре литературных источника: «Дивный новый мир» Олдоса Хаксли, «Дорогу» Кормака Маккарти, «Франкенштейна» Мэри Шелли и «1984» Джорджа Оруэлла. Учителя-словесники оценили сочинение как соответствующее всем критериям ФИПИ — ученик получил бы за него зачет.
Насколько эффективен ChatGPT
Задачи по математике
Чтобы проверить возможности нейросети, мы предложили ей решить простую задачку для 3-го класса, которую уже разбирали в блоге на «Меле». Вот ее условие:
Ваня, Витя и Арсений пошли собирать грибы. Всего они собрали 48 грибов. Ваня собрал на 6 грибов больше, чем Арсений. А Арсений собрал на 12 грибов меньше, чем Витя. Сколько грибов собрал каждый из ребят?
Сначала нейросеть стала решать эту задачу через уравнение:
Давайте обозначим количество собранных Арсением грибов как x. Тогда Ваня собрал x+6 грибов, а Витя собрал x+12 грибов.
Известно, что x+(x+6)+(x+12) = 48. Решив это уравнение, получим x = 10. Значит, Арсений собрал 10 грибов, Ваня собрал 16 грибов, а Витя собрал 22 гриба.
После просьбы решить задачу, не используя уравнение, ответ стал следующим:
Ваня, Витя и Арсений собрали всего 48 грибов. Мы знаем, что Ваня собрал на 6 грибов больше, чем Арсений, а Арсений собрал на 12 грибов меньше, чем Витя. Это значит, что Ваня собрал 16 грибов (10+6), Арсений собрал 10 грибов, а Витя собрал 22 гриба (10+12).
Также мы попросили ChatGPT дать подсказку, как решать задачу, но не давать ответ. Нейросеть с этим справилась:
Чтобы решить данную задачу без использования уравнений, можно использовать метод исключения. Например, можно начать с определения общего количества грибов, которое собрали два ребенка, и исключить это количество из общего числа грибов, чтобы найти количество грибов, собранных третьим ребенком. Затем, используя условия из задачи, можно определить количество грибов, собранных каждым из ребят.
Далее мы загрузили в чат-бот задачу по геометрии для 5-го класса.
Условие: В треугольнике ABC CD — медиана, угол C равен 90°, угол B равен 35°. Найдите угол ACD. Ответ дайте в градусах.
Решение от ChatGPT: В треугольнике ABC, где угол C равен 90° и угол B равен 35°, угол ACD равен 55 градусам.
Это можно доказать, используя тот факт, что в любом треугольнике сумма углов равна 180°. Если суммировать угол С и угол B, то получим 90+35 = 125 градусов. Если из этой суммы вычесть угол ACD, мы получим 180–55 = 125 градусов. Таким образом, угол ACD равен 55 градусам.
Учительница математики из Иркутска, участница проекта «Сила ума» в Узбекистане Татьяна Янькова прокомментировала ответ нейросети так: «В задаче про нахождение острого угла в прямоугольном треугольнике не использовано очевидное свойство, что сумма острых углов в прямоугольном треугольнике равна 90 градусам».
А вот несколько типовых задач из ЕГЭ ChatGPT решить не смог. И на логическую задачку из сборника Перельмана дал неправильный ответ.
«ChatGPT оказывает медвежью услугу нашим и без того не умеющим думать школьникам, — считает Татьяна Янькова. — В обучении он им точно не поможет. В „выполнении“ домашнего задания частично да. В подготовке к ЕГЭ этот чат-бот, как мы видим, не помощник — по крайней мере, пока он не адаптирован под российское образование. Со временем его, скорее всего, адаптируют наши умельцы».
Педагог добавляет, что школьники будут все больше и больше использовать нейросети для выполнения домашнего задания. «Это неизбежно! Нам, учителям, нужно вести просветительскую работу о том, что искусственный интеллект нужно использовать с умом. Часть ребят прислушаются», — отмечает Янькова.
Сочинение по литературе
Чтобы проверить, сможет ли нейросеть написать сочинение по всем критериям, мы написали для нее инструкцию:
Напиши сочинение на тему «Мотив гордого человека в произведениях „На дне“ Максима Горького и „Вишневый сад“ Антона Чехова». Оно должно состоять из введения, 2–3 параграфов с объяснениями, как тема гордого человека раскрывается в каждом произведении, в чем сходства и различия раскрытия этой темы в двух произведениях, и заключения с выводом. В сочинении должно быть минимум 4 цитаты из оригинальных текстов и минимум 4 литературоведческих понятия, таких как «герой», «сюжет», «антитеза», «метафора», «эпитет».
Все указания чат-бот выполнил. Однако в аргументации он «выдумал» персонажей произведений и даже сгенерировал цитаты, которых никогда не было в оригинальных текстах (забавно, что героя Чехова так и зовут — Антон Павлович):
В «На дне» Горького герой Рихтер представляет собой гордого человека, который не может принять своего падения и продолжает жить в иллюзии своей прошлой власти. Он отказывается признать свою вину и свою ответственность за свою ситуацию. «Рихтер жил в иллюзии, что его никогда не было на самом деле на дне, что он всегда был свободен и независим» (Горький).
В «Вишневом саде» Чехова герой Антон Павлович представляет собой гордого человека, который не может принять свою отсутствующую красоту и молодость и живет в иллюзии своего прошлого влияния. Он отказывается признать свою изменившуюся реальность и пытается навязать свою волю другим. «Он не мог примириться с тем, что его любят не за то, кто он есть, а за то, кем он был» (Чехов).
Чат-бот также придумал три стихотворения Бориса Пастернака для сочинения по его лирике. А по поэме Лермонтова «Мцыри» он написал сочинение, где главный герой — «кавказский воин, который борется за свою свободу и любовь» к некой Катеньке (правда, после вопроса, была ли такая героиня в поэме, нейросеть извиняется за ошибку). Даже в сочинении по известному за рубежом роману Толстого «Война и мир» ChatGPT «изобретает» нового персонажа — Анну Павловну Курагину.
Учитель словесности и доцент Школы филологических наук НИУ ВШЭ Михаил Павловец говорит: «ChatGPT — это всего лишь инструмент. Как топор: им можно убить, можно избу срубить, а можно из него кашу сварить». По его мнению, чат-бот может быть действительно полезен для генерирования простых шаблонных текстов, которые регулярно оказываются нужны людям.
Педагог отмечает, что пока чат-бот плохо справляется с сочинениями для ЕГЭ и плохо знаком с корпусом русской литературы. Но он напомнил, что нейросети обладают способностью учиться. «Пока чат-бот делает недопустимые и смешные ошибки, но вопрос не в десятилетиях и даже, наверное, не в годах — вопрос в месяцах, спустя которые, во-первых, такие чат-боты появятся на русском языке (сейчас генеративные модели уже есть у Сбера и Яндекса. — Прим. ред.). Во-вторых, они смогут работать с пониманием текста и научатся цитировать его довольно уместно. Я предсказываю, что довольно скоро мы прочтем сгенерированный текст, вполне подходящий не только для итогового сочинения, но и для ЕГЭ по русскому языку, истории или литературе. Поэтому уже сейчас надо думать о том, как мы будем работать», — говорит он.
Могут ли запретить ChatGPT
В январе 2023 года местный департамент образования запретил использовать ChatGPT в школах Нью-Йорка — позже аналогичные меры приняли Лос-Анджелес и Балтимор. Речь идет об ограничении доступа к чат-боту на школьных компьютерах и других гаджетах, принадлежащих учебным заведениям.
Педагог, доктор психологических наук Александр Асмолов отметил в разговоре с «Новыми известиями», что запрет на ChatGPT как инструмент подобен запрету на шариковые ручки, когда они только появились и некоторые опасались, что они испортят правописание. «Вот те, кто сейчас начнут бороться с нейросетями, будут выглядеть точно так же нелепо, как запрещатели шариковых ручек», — прокомментировал он.
С ним согласен и Михаил Павловец. В интервью «Мелу» он сказал, что «запретами и раздеванием [учеников] перед входом в зал для экзамена» предотвратить вторжение нейросетей в современный мир невозможно. «Мы знаем, насколько изобретательны дети, — говорит педагог. — Все по-настоящему новое, полезное и прогрессивное делается не через запрет, а через изменение правил игры, через создание новых форм работы, новых методик и технологий. Пока мы будем запрещать, вода дырочку найдет».
Иллюстрация на обложке: GoodStudio / Shutterstock / Fotodom