Адвокат ChatGPT сабаб жаримага тортилди

АҚШнинг Нью-Мексико штати Олий суди қотилликда айбланган шахснинг ҳукми устидан берилган апелляция шикоятида сунъий интеллект томонидан ўйлаб топилган гувоҳлар ва полиция кўрсатмаларидан фойдаланган адвокатни жаримага тортди.

Стивен Ааронз суд ҳужжатларидаги маълумотларни текширмагани учун судни ҳурмат қилмасликда айбдор деб топилди. У 5 минг доллар жарима тўлайди ва адвокатлик интизоми бўйича кенгашга юборилади.

ChatGPT тайёрлаган ёлғон кўрсатмалар

Нью-Мексико Олий суди 10 сентябрь куни адвокатнинг апелляция ишига оид ҳужжатларида бутунлай ўйлаб топилган гувоҳларнинг ёлғон кўрсатмалари келтирилганини маълум қилди.

Суд таъкидлашича, Ааронз ўз ҳимоясидаги мижозига нисбатан масъулиятсизлик қилган. Судьялар унинг қилмишига пушаймонлиги ва мижози тақдирига муносабати борасида ҳам танқидий фикр билдирган.

Адвокат Reuters агентлигига берган изоҳида ўтган йили апелляция ишини қабул қилганида суд жараёни стенограммаси ва бошқа материалларни ChatGPT ёрдамида умумлаштирганини айтди.

У сунъий интеллект фактларни «галлюцинация» қилиши, яъни мавжуд бўлмаган маълумотларни ҳақиқатдек тақдим этиши мумкинлигини етарлича тушунмаганини тан олди.

«Мен пушаймонман, аммо интизом кенгаши буни ҳалол хато сифатида баҳолайди, деган умиддаман. Бу кучли, аммо баъзан беқарор технологияга таянадиган барча мутахассислар учун сабоқ бўлди», — деди Ааронз.

OpenAI компанияси ҳодиса юзасидан Reuters сўровига дарҳол жавоб бермаган.

Сунъий интеллектдан фойдаланишдаги хатарлар

Адвокатга нисбатан қўлланган жазо суд ҳужжатларини сунъий интеллект ёрдамида тайёрлаб, уларни етарлича текширмаган юристлар билан боғлиқ ҳолатларнинг навбатдагиси бўлди.

АҚШда бир қатор судьялар адвокатлар томонидан мавжуд бўлмаган суд қарорлари ва қонун нормаларига ҳаволалар келтирилган ҳужжатлар топширилгани учун уларни жазолаган. Ааронз ишида эса сунъий интеллект ўйлаб топган гувоҳлар кўрсатмалари жиноий иш бўйича апелляция ҳужжатига киритилган.

Ааронз Нью-Мексико штати Санта-Фе шаҳрида фаолият юритувчи хусусий адвокат бўлиб, Оскар Рене Сандовалнинг апелляция ишини олиб борган. Сандовал фарзандларининг онасини ўлдиришда айбланган, айбловни тан олмаган ва ўтган йили умрбод қамоқ жазосига ҳукм қилинган.

Апелляция иши ҳали давом этмоқда. 2 сентябрь куни иш Нью-Мексико давлат ҳимоячиси Ким Чавес Кукка бириктирилган. Кук ва Дона-Ана округи прокуратураси вакиллари изоҳ беришдан бош тортди.

Суддаги савол

Олий суд ўтган ой Ааронздан апелляция шикоятига қандай қилиб сохта маълумотлар киритилганини тушунтиришни сўраган. Ҳужжатда қотиллик содир этган шахс қора шим ва оқ кўйлак кийгани ҳақида ҳам ўйлаб топилган кўрсатма келтирилгани айтилган.

21 август куни бўлиб ўтган суд мажлисида Ааронз компьютерда яратилган стенограмма ва ишга оид бошқа материалларни ChatGPT’га юклаганини билдирди. У сунъий интеллектдан «хатосиз, мукаммал хулоса» тайёрлашини кутган.

Судьялар адвокатнинг сунъий интеллект хатоларидан хабардор бўлмаганини шубҳа билан қабул қилди.

«Адвокатларнинг сунъий интеллект галлюцинацияларига таяниши муаммоси ҳар куни янгиликларда биринчи саҳифадаги мавзу бўлиб турибди», — деди судья К. Шеннон Бэкон.

Ҳасанбой ОЧУН