Верховного суд Нового Южного Уэльса в Австралии, обновил практическое руководство по использованию генеративного ИИ в судебной системе. В ноябре прошлого года был введен запрет на использование таких технологий для юридической работы, однако теперь их применение разрешено для подготовки некоторых документов.
Тем не менее, использование ИИ для создания таких документов как свидетельские показания и другие материалы, которые должны отражать мнение свидетелей, по-прежнему запрещено. Важно, что разрешение на использование ИИ возможно только в том случае, если пользователь может гарантировать, что данные не будут использованы для других целей, кроме судебного разбирательства. Это фактически исключает использование популярных языковых моделей, таких как ChatGPT и Gemini, так как их лицензионные соглашения предоставляют доступ к пользовательским данным.
Это решение последовало за недавним инцидентом, когда адвокат из Нового Южного Уэльса был направлен в комиссию по юридическим жалобам за использование ChatGPT для написания судебных документов, которые содержали "несуществующие" прецеденты.
Суд отметил, что ИИ может создавать документы, которые выглядят как свидетельские показания, но если они не являются фактическими показаниями, это подрывает весь процесс. Он также подчеркнул необходимость осторожности в отношении влияния крупных технологических компаний на данные, используемые в системах ИИ.