Эксперты бьют тревогу: что не так с ИИ в школах?
Игорь Ашманов, предприниматель в сфере информационных технологий и член Президентского совета по правам человека (СПЧ), сомневается в надежности ИИ для обучения. Он отметил, что системы ИИ нередко ошибаются. Ашманов привёл в пример голосовой помощник «Яндекс Алиса». На вопрос «почему зимой холодно?» «Алиса» неверно отвечает, что Земля дальше от Солнца, хотя причина – в наклоне земной оси. Однако, если задать этот вопрос ИИ от «Яндекса», ответ будет правильным и довольно развёрнутым. «Нейросети должны давать один правильный ответ на многие вопросы», – подчеркнул Ашманов. Он настаивает на строгом контроле за их использованием в школах и университетах.
Ашманов также указал на проблему обучения нейросетей. Их тренируют в основном на англосаксонской литературе, из-за чего ответы могут не соответствовать российскому дискурсу. Для решения этой проблемы он предложил обучать нейросети на отечественных кластерах и строго следить за правильностью выдаваемых ответов.
Наталья Касперская, предприниматель и эксперт в области IT, сосредоточилась на социальных и психологических рисках. Она отметила, что врачи все чаще фиксируют у детей замедление психического развития, снижение навыков общения из-за преобладания общения с сат-ботами. Также Касперская напомнила о проблемах физического здоровья детей, вроде сколиоза и ухудшения зрения из-за гаджетов. ИИ усугубляет ситуацию, будучи генератором бесконечного контента, который может вызывать привыкание. Касперская предлагает радикальный шаг: «Пришел учиться – учись, смартфон нужно забирать».
Как снизить риски от ИИ: предложения экспертов
Эксперты выделили главные угрозы ИИ: ошибочные данные, утрата детьми социальных навыков и рост цифрового неравенства. Чтобы избежать негативных последствий, они предложили конкретные меры:
- Регулирование: ввести строгие стандарты для применения ИИ в образовании.
- Ограничения: сократить доступ детей к гаджетам во время учебы.
- Аудит: разработать механизмы проверки ИИ на точность и безопасность.
- Собственный ИИ: создать российский подход к развитию технологий ИИ.
Эксперты сходятся во мнении: будущее образования и общества зависит от того, как человечество использует ИИ. Грамотный подход позволит раскрыть его преимущества и минимизировать риски.
