Остерегайтесь мошенников: производитель ChatGPT выпускает инструмент обнаружения искусственного интеллекта

САН-ФРАНЦИСКО (AP) – Создатель ChatGPT пытается обуздать свою репутацию беззаботной машины для мошенничества с помощью нового инструмента, который может помочь учителям определить, написал ли домашнее задание ученик или искусственный интеллект.

Новый классификатор текстов AI, запущенный во вторник компанией OpenAI, последовал за недельной дискуссией в школах и колледжах по поводу опасений, что способность ChatGPT писать практически все по команде может способствовать академической нечестности и мешать обучению.

OpenAI предупреждает, что ее новый инструмент, как и другие, уже доступные, не является надежным. Метод обнаружения текста, написанного ИИ, «несовершенен и иногда ошибается», — сказал Ян Лейке, руководитель группы согласования OpenAI, которой поручено сделать свои системы более безопасными.

«Поэтому не следует полагаться исключительно на него при принятии решений», — сказал Лейке.

Подростки и студенты колледжей были среди миллионов людей, которые начали экспериментировать с ChatGPT после того, как 30 ноября оно было запущено в качестве бесплатного приложения на веб-сайте OpenAI. И хотя многие нашли способы использовать его творчески и безвредно, легкость, с которой он мог отвечать на вопросы домашнего теста и помогать с другими заданиями, вызвала панику среди некоторых преподавателей.

К моменту открытия школ к новому году Нью-Йорк, Лос-Анджелес и другие крупные государственные школьные округа начали блокировать его использование в классах и на школьных устройствах.

Округ государственных школ Сиэтла первоначально заблокировал ChatGPT на всех школьных устройствах в декабре, но затем открыл доступ преподавателям, которые хотят использовать его в качестве инструмента обучения, сообщил Тим Робинсон, представитель округа.

«Мы не можем позволить себе игнорировать это», — сказал Робинсон.

Округ также обсуждает возможность расширения использования ChatGPT в классах, чтобы учителя могли использовать его для обучения учащихся лучшему критическому мышлению и позволить учащимся использовать приложение в качестве «личного наставника» или для помощи в генерировании новых идей при работе над заданием. - сказал Робинсон.

Школьные округа по всей стране говорят, что видят, как обсуждение ChatGPT развивается быстро.

«Первоначальной реакцией было: «О боже, как мы собираемся остановить волну мошенничества, которое произойдет с ChatGPT», — сказал Девин Пейдж, специалист по технологиям округа государственных школ округа Калверт в Мэриленде. Сейчас растет осознание того, что «это будущее», и блокировать его – не выход, сказал он.

«Я думаю, что мы были бы наивными, если бы не знали об опасностях, которые представляет этот инструмент, но мы также не смогли бы служить нашим учащимся, если бы запретили им и нам использовать его во всей его потенциальной мощи», — сказал Пейдж, который считает, что округа как и его собственный, в конечном итоге разблокирует ChatGPT, особенно после того, как будет запущена служба обнаружения компании.

OpenAI подчеркнула ограничения своего инструмента обнаружения в сообщении в блоге во вторник, но заявила, что помимо предотвращения плагиата он может помочь обнаружить автоматизированные кампании по дезинформации и другие злоупотребления ИИ для имитации людей.

Чем длиннее отрывок текста, тем лучше инструмент определяет, написал ли что-то ИИ или человек. Введите любой текст — эссе для поступления в колледж или литературный анализ «Человека-невидимки» Ральфа Эллисона — и инструмент пометит его как «очень маловероятно, маловероятно, неясно, возможно ли это или вероятно». -сгенерировано.

Но, как и сам ChatGPT, который был обучен на огромном количестве оцифрованных книг, газет и онлайн-сочинений, но часто уверенно выплевывает ложь или ерунду, нелегко интерпретировать, как он пришел к результату.

«Мы принципиально не знаем, на какой шаблон он обращает внимание и как он работает внутри», — сказал Лейке. «На данный момент мы мало что можем сказать о том, как на самом деле работает классификатор».

Высшие учебные заведения по всему миру также начали обсуждать ответственное использование технологий искусственного интеллекта. Sciences Po, один из самых престижных университетов Франции, запретил его использование на прошлой неделе и предупредил, что любой, кто тайно использует ChatGPT и другие инструменты искусственного интеллекта для создания письменных или устных работ, может быть исключен из Sciences Po и других учреждений.