История №1602462

В калифорнийской школе случилась дикая ситуация. Парень сдал сочинение, учительница прогнала его через детектор ИИ-текстов Turnitin, и тот выдал вердикт: 76% текста сгенерировано нейросетью. Всё, разбирательство окончено. Оценку срезали, в личное дело записали "академическая нечестность". Клеймо, которое поедет за учеником в любой университет.

Самое безумное - парень притащил черновики. Историю правок из Google Docs. Весь процесс написания как на ладони. Учительница даже не посмотрела. Зачем разбираться самой, когда алгоритм уже всё решил?

А теперь про сам Turnitin. Компания честно пишет на своём сайте: не используйте наши результаты как окончательный вердикт. Ложные срабатывания на уровне предложений доходят до 4%. То есть разработчики сами предупреждают - а педагог всё равно использовала это как приговор без права обжалования.

Пятого мая родители подали иск в федеральный суд Калифорнии. Требуют вернуть оценку, стереть пометки из досье и получить компенсацию.

И вот тут есть ирония.

Сочинение было по пьесе Артура Миллера "Суровое испытание" - произведению о том, как людям ломают судьбы на основании сомнительных улик. Парень написал работу о ложных обвинениях и тут же сам попал под ложное обвинение. Реальность выдала сценарий, который ни один писатель бы не придумал.

Мы доверяем ИИ-алгоритмам всё больше. Но готовы ли мы к тому, что алгоритм решает, честен ваш ребёнок или нет?