Новини про галюцинації штучного інтелекту перейшли від судової ганьби до кар’єрних наслідків, оскільки Верховний суд Небраски ухвалив призупинити діяльність адвоката з Омахи Грега Лейка до подальшого повідомлення, після того, як у судовій довідці, яку він подав у апеляції щодо розлучення, було виявлено 57 дефектних посилань із 63, включаючи 20 повністю сфабрикованих посилань на справи та чотири цілком вигадані справи, яких не існує в жодній юрисдикції.

Підсумок

• Лейк спочатку повідомив суддям, що він завантажив неправильну версію довідки, перебуваючи у подорожі на своєму весільному ювілеї з зламаним комп’ютером, але згодом зізнався, що використовував штучний інтелект, що, за висновком Ради з дисципліни Небраски, становить зраду чесності перед судом.
• Справа виникла з приводу розлучення 2025 року, яке оспорювало час початку поділу майна та опіки над дітьми, коли Лейк подав апеляційну довідку від імені чоловіка, яка була наповнена вигаданими деталями з реальних справ Небраски та цілком вигаданими авторитетами.
• Висновок Верховного суду Небраски зазначив, що помилки “можна було легко виявити за допомогою традиційних юридичних досліджень” і описав цю справу як “новий питання для судів Небраски,” що слугує публічним попередженням для всіх адвокатів у штаті.

Новини про галюцинації штучного інтелекту спричинили найсуворішу професійну санкцію в США на сьогодні, оскільки Верховний суд Небраски ухвалив необмежене призупинення діяльності адвоката Грега Лейка 15 квітня, після місяців розгляду, коли під час усних аргументів у лютому судді помітили помилки у довідці, які вони не могли узгодити з жодним опублікованим прецедентом справ Небраски.

Довідка була подана в апеляції щодо розлучення, оскаржуючи дату початку поділу спільного майна та опіки над дітьми. З 63 посилань Лейка 57 містили якусь форму дефекту. Двадцять з них були тим, що суди тепер називають галюцинаціями: реалістично виглядаючі, але цілком сфабриковані посилання, згенеровані моделлю штучного інтелекту, яка правдоподібно здогадувалася, що саме запитує користувач, і створювала переконливі, але неіснуючі посилання.

Що сталося під час усних аргументів і після них

Коли суддя запитав Лейка під час слухання у лютому, як виникли помилки, він сказав, що він був на своєму 10-му весільному ювілеї, його комп’ютер зламався під час подорожі, і він завантажив неправильну версію довідки. Судді вважали цю пояснення непереконливим. Рада з дисципліни розслідувала і виявила іншу версію: що Лейк використовував штучний інтелект для складання довідки і потім заперечував це перед судом, що становить порушення правил професійної етики, що вимагають чесності перед судом.

Єдиноголосна думка Верховного суду Небраски, яка відхилила довідку і направила Лейка на дисциплінарне розслідування у березні, чітко заявила: “Штучний інтелект, як і інші технологічні інструменти, може бути корисним для юридичної спільноти, але його потрібно використовувати з обережністю і скромністю.” Суд зазначив, що помилки можна було легко запобігти за допомогою базової перевірки через стандартні платформи юридичних досліджень і виявив, що Лейк проявив невідповідальність у своїй чесності.

Загальна картина санкцій

Небраска не є ізольованим випадком. Дослідник Дамієн Шарлотен із HEC Париж, який веде базу даних випадків галюцинацій штучного інтелекту у юридичних процесах, тепер відстежує понад 1200 таких випадків у світі, з приблизно 800 — у судах США. Він описав темпи як “десять випадків із десяти різних судів за один день.”

Орегон має найбільше сукупне покарання, пов’язане з одним адвокатом за помилки у поданні, пов’язані з штучним інтелектом, на суму 109 700 доларів. Шостий окружний суд наклав штраф у 30 000 доларів на двох адвокатів із Теннессі — найбільше федеральне апеляційне покарання, пов’язане з сфабрикованими посиланнями. Необмежене призупинення діяльності Небраски, якщо його підтвердять у будь-якій апеляції, стане першою дисциплінарною мірою, яка повністю призупиняє практику через помилки у поданні, пов’язані з штучним інтелектом у США, підвищуючи наслідки з фінансових штрафів до кар’єрних зупинок.

Чому це важливо для сектору штучного інтелекту

Кожне високе профільне дисциплінарне покарання, пов’язане з моделями штучного інтелекту, посилає регуляторний сигнал, який визначає, як дозволено використовувати інструменти штучного інтелекту у професійному середовищі. Для оцінки ризиків штучного інтелекту у сфері інвестицій і технологій реакція юридичної професії на галюцинації — це “канарка у шахті”: вона визначає, що означає “відповідальне розгортання” у перших високорегульованих середовищах, що призводять до наслідків. Ринки токенів штучного інтелекту та інфраструктури зазнають аналогічних регуляторних рамок, оскільки та сама логіка поширюється на фінансові поради, медичні рішення та урядові застосування тих самих базових моделей.