«ИИ сгенерировал» – не оправдание: в России создан прецедент ответственности за фейковые ссылки. Точка зрения Михаила Толчеева
В рамках нашей рубрики «Точка зрения» мы попросили прокомментировать этот громкий прецедент первого вице-президента Адвокатской палаты Московской области Михаила Толчеева.
Его экспертное мнение – ниже, а пока – предыстория.
Это дело уже не первую неделю шумит в юридическом сообществе, и вот почему: искусственный интеллект подвёл, и компания получила штраф за фальшивую судебную практику.
Суть истории:
Всё началось с банального, казалось бы, спора о бухгалтерских услугах. ООО «Точка опоры» оказывало услуги ООО «ЦСС». Цена выросла с 20 до 25 тысяч рублей, что фиксировалось в актах. Когда за два месяца не пришла оплата, «Точка опоры» пошла в суд.
Как развивались события:
1. Первая инстанция: суд встал на сторону ответчика частично. Он решил, что изменение цены должно быть оформлено дополнительным соглашением, и взыскал только 10 000 рублей.
2. Апелляция: здесь уже логика сработала иначе. Суд счёл, что подписание актов с новой ценой – это и есть согласие на изменение договора. Итог: с «ЦСС» взыскали всю сумму – 57 644 рубля 24 копейки.
А вот дальше началось самое интересное: проигравшая сторона подала кассационную жалобу. Чтобы подкрепить свою позицию, юристы «ЦСС» решили использовать ИИ-помощника. Нейросеть сгенерировала для них ссылки на судебные прецеденты. Но! Их просто не существовало в природе, искусственный интеллект их придумал.
Суд округа быстро установил факт фальсификации. Представитель компании подтвердил, что ссылки были сгенерированы искусственным интеллектом. Это было расценено как проявление неуважения к суду.
Итог для «ЦСС» оказался двойным ударом:
– Кассация оставила в силе решение о взыскании долга и неустойки.
– На саму компанию наложили судебный штраф в размере 50 000 рублей за предоставление заведомо ложных сведений.
Суд чётко дал понять: ответственность за достоверность информации, даже если её сгенерировал ИИ, лежит на стороне, которая её использует.
Прецедент с использованием сгенерированной ИИ судебной практики – это, конечно, частный случай, где ошибку допустил юрист компании. Однако он обнажает системную проблему для всего адвокатского сообщества. Рассмотреть ситуацию с этой, более широкой точки зрения, мы попросили первого вице-президента АПМО Михаила Толчеева:
«В мировой практике уже достаточно подобных прецедентов. Очевидный принцип заключается в том, что адвокат как часть правосудия не может создавать иную реальность. Всё, что уводит нас от установления истины – будь то в вопросах факта или в вопросах толкования права, – недопустимо. Следовательно, должны существовать и механизмы противодействия и ответственности. Это неизбежно.
Важно отдавать себе отчёт, что имевшее место в данном случае недобросовестное поведение адвоката – это лишь малая часть проблемы.
Главный вопрос заключается в том, понимаем ли мы риски во всей их полноте и готовы ли меняться?! Это тема для глубокого осмысления и дальнейшей проработки.
На сегодняшний день реакция суда на недобросовестное поведение адвоката является нормальной практикой. В дальнейшем, я уверен, судебная система будет вырабатывать юридически и доктринально обоснованные подходы к подобным ситуациям. Главное здесь – понимать, что ответственность несёт адвокат и, конечно, его доверитель.
Прежде всего – адвокат, который использует любые инструменты, включая нейронные сети и искусственный интеллект.
Ответственность всегда остаётся за человеком. Именно поэтому юристы по всему миру выдвигают общее требование: данные, подготовленные с помощью ИИ (тексты, документы), должны быть перепроверены и пройти оценку специалиста, который несёт за них полную ответственность».
Этот случай – серьёзное напоминание всем нам: технологии – это лишь инструмент. А ответственность за результат всегда лежит на человеке.
Его экспертное мнение – ниже, а пока – предыстория.
Это дело уже не первую неделю шумит в юридическом сообществе, и вот почему: искусственный интеллект подвёл, и компания получила штраф за фальшивую судебную практику.
Суть истории:
Всё началось с банального, казалось бы, спора о бухгалтерских услугах. ООО «Точка опоры» оказывало услуги ООО «ЦСС». Цена выросла с 20 до 25 тысяч рублей, что фиксировалось в актах. Когда за два месяца не пришла оплата, «Точка опоры» пошла в суд.
Как развивались события:
1. Первая инстанция: суд встал на сторону ответчика частично. Он решил, что изменение цены должно быть оформлено дополнительным соглашением, и взыскал только 10 000 рублей.
2. Апелляция: здесь уже логика сработала иначе. Суд счёл, что подписание актов с новой ценой – это и есть согласие на изменение договора. Итог: с «ЦСС» взыскали всю сумму – 57 644 рубля 24 копейки.
А вот дальше началось самое интересное: проигравшая сторона подала кассационную жалобу. Чтобы подкрепить свою позицию, юристы «ЦСС» решили использовать ИИ-помощника. Нейросеть сгенерировала для них ссылки на судебные прецеденты. Но! Их просто не существовало в природе, искусственный интеллект их придумал.
Суд округа быстро установил факт фальсификации. Представитель компании подтвердил, что ссылки были сгенерированы искусственным интеллектом. Это было расценено как проявление неуважения к суду.
Итог для «ЦСС» оказался двойным ударом:
– Кассация оставила в силе решение о взыскании долга и неустойки.
– На саму компанию наложили судебный штраф в размере 50 000 рублей за предоставление заведомо ложных сведений.
Суд чётко дал понять: ответственность за достоверность информации, даже если её сгенерировал ИИ, лежит на стороне, которая её использует.
Прецедент с использованием сгенерированной ИИ судебной практики – это, конечно, частный случай, где ошибку допустил юрист компании. Однако он обнажает системную проблему для всего адвокатского сообщества. Рассмотреть ситуацию с этой, более широкой точки зрения, мы попросили первого вице-президента АПМО Михаила Толчеева:
«В мировой практике уже достаточно подобных прецедентов. Очевидный принцип заключается в том, что адвокат как часть правосудия не может создавать иную реальность. Всё, что уводит нас от установления истины – будь то в вопросах факта или в вопросах толкования права, – недопустимо. Следовательно, должны существовать и механизмы противодействия и ответственности. Это неизбежно.
Важно отдавать себе отчёт, что имевшее место в данном случае недобросовестное поведение адвоката – это лишь малая часть проблемы.
Главный вопрос заключается в том, понимаем ли мы риски во всей их полноте и готовы ли меняться?! Это тема для глубокого осмысления и дальнейшей проработки.
На сегодняшний день реакция суда на недобросовестное поведение адвоката является нормальной практикой. В дальнейшем, я уверен, судебная система будет вырабатывать юридически и доктринально обоснованные подходы к подобным ситуациям. Главное здесь – понимать, что ответственность несёт адвокат и, конечно, его доверитель.
Прежде всего – адвокат, который использует любые инструменты, включая нейронные сети и искусственный интеллект.
Ответственность всегда остаётся за человеком. Именно поэтому юристы по всему миру выдвигают общее требование: данные, подготовленные с помощью ИИ (тексты, документы), должны быть перепроверены и пройти оценку специалиста, который несёт за них полную ответственность».
Этот случай – серьёзное напоминание всем нам: технологии – это лишь инструмент. А ответственность за результат всегда лежит на человеке.