Клиенту Ааронса назначили нового защитника, а самому адвокату запретили выступать в Верховном суде штата до завершения разбирательства отмечается в постановлении суда.
Ааронс признал, что прибег к помощи ChatGPT при составлении апелляции. В жалобе были указаны показания полностью несуществующих свидетелей, а также искажены данные о реальных свидетелях и судебных прецедентах. "Адвокат признался суду, что не проверил фактические утверждения и правовые основания в подготовленной с помощью ИИ жалобе перед тем, как подписать и подать ее в суд", – говорится в сообщении.
По данным Reuters, Ааронс обжаловал приговор по делу об убийстве. В разговоре с агентством он отметил, что использовал нейросеть для краткого изложения судебного разбирательства и не понимал, что ИИ способен придумывать факты.
"Я раскаиваюсь, но надеюсь, что дисциплинарная комиссия учтет, что это была честная ошибка. Это урок для всех специалистов, которые полагаются на эту мощную, но порой нестабильную технологию", – сказал он.
Явление, с которым столкнулся адвокат, в экспертной среде называется галлюцинациями искусственного интеллекта (AI hallucinations). В таких случаях нейросеть с абсолютной уверенностью выдает ложную, вымышленную или искаженную информацию за реальные факты.
Связано это с тем, что нейросети (особенно большие языковые модели) устроены не так, как классические поисковые системы. Они не ищут информацию в базе данных, а генерируют текст на ходу, предсказывая, какое слово должно быть следующим по смыслу. Пока проблема не решена на 100%, ответственность за проверку лежит на человеке.
