Границы ИИ: ошибки, проверка, этика

Уверенность без основания

У ИИ нет режима «не знаю». Модель отвечает одинаково уверенным тоном и когда цитирует проверенный факт, и когда его выдумывает — интонация не меняется. Для преподавателя языковой школы это ключевая опасность: неправильную дату или несуществующее правило вы примете за факт с той же вероятностью, что и настоящий, если не проверите отдельно. Четыре предыдущих урока модуля показали, где ИИ экономит время. Этот — про то, где он подводит и что остаётся исключительно вашей зоной ответственности.

Где ИИ ошибается регулярно

Ошибки языковой модели — это свойство того, как она устроена: она подбирает правдоподобный текст и не сверяется со справочником. Такие ошибки останутся с ней и после будущих обновлений. В работе преподавателя английского это проявляется в трёх типичных зонах.

Выдуманные факты. Модель может назвать неверную дату исторического события в тексте для чтения, приписать идиому не тому происхождению или сформулировать грамматическое правило с уверенно звучащим, но неточным исключением. Она подбирает статистически похожий на правду ответ и не заглядывает в учебник.

Неверный уровень. Попросив материал для A2, вы можете получить текст с лексикой из B1 — модель плохо чувствует границы CEFR на конкретных словах и конструкциях, особенно в длинных текстах, где сложность накапливается к концу.

Культурная слепота. Тренировочные диалоги и примеры по умолчанию тяготеют к реалиям, знакомым основному массиву обучающих данных, и не всегда подходят для аудитории вашей школы — стоит перечитывать примеры глазами своего ученика, помимо чисто грамматической правки.

Что перепроверять всегда

Урок 6.1 ввёл правило одного черновика: ИИ делает первую версию, финал — всегда за вами. В этом уроке правило конкретизируется — какие именно пункты нельзя пропускать при вычитке, прежде чем материал уйдёт ученику или в чат группы.

Что мы не отдаём ИИ

Часть работы преподавателя языковой школы нельзя делегировать модели в принципе. Дело здесь не в качестве ответа: такая задача требует живого человека с контекстом, которого у ИИ нет и не может быть.

Живая мотивация ученика, который потерял интерес к занятиям, — это разговор, в котором важны интонация, пауза, знание истории конкретного человека. Сложный разговор с родителем — про успеваемость, конфликт, деньги — ведёт преподаватель или администратор, ИИ здесь не участник диалога, максимум черновик тезисов для себя. Решение о переводе ученика на другой уровень — это ваша профессиональная экспертиза, основанная на наблюдении за человеком на нескольких занятиях; одного текста для этого мало.

И отдельно — открытость с учениками про использование ИИ. Если задание или комментарий к работе частично сгенерирован моделью и вы его отредактировали — это нормальная практика, скрывать её не нужно. Но выдавать сырой ответ модели за собственную развёрнутую обратную связь, не читая и не редактируя, — подрывает доверие быстрее, чем экономит время.

Данные ученика и приватность

Внешние чат-сервисы — не защищённая среда для персональных данных. Не стоит бездумно вставлять в переписку с общим ИИ-чатом полное имя ученика вместе с диагнозом сложностей в обучении, номер телефона родителя или другие личные детали — для черновика упражнения это и не требуется, достаточно обезличенного описания: «ученик 10 лет, слабая грамматика прошедшего времени».

AI-ассистент в приложении BigBen устроен иначе — он работает внутри вашей рабочей среды, с данными, к которым у вас и так есть доступ по вашей роли, и держит их внутри платформы. Финансовые данные — например, кто из учеников должник — ассистент по команде показывает, но это чувствительная информация: не стоит пересылать такие ответы скриншотом в общие чаты или показывать на экране при родителях.

Итоги модуля

Следующий модуль M7 «Группа и дисциплина», урок 7.1: динамика группы — как работать с разноуровневой группой, где в одном классе оказываются и сильные, и слабые ученики.