ChatGPT assiste un avocat mais invente plusieurs affaires et sources
Un juge du Texas a publié des règles sur l'emploi de ChatGPT dans les affaires qu’il traite. Une mesure qui fait suite au cas d’un avocat ayant cité des décisions juridiques inventées par le chatbot.
L’usage de ChatGPT dans un cadre professionnel n’est pas sans risque. Aux Etats-Unis, un avocat l’a appris à ses dépens. La propension du populaire chatbot à inventer ses réponses et même ses sources s’est vérifiée dans le document fourni à la Cour du district sud de New York par l'avocat Steven Schwartz, selon le New York Times (paywall), se basant sur un rapport du juge Kevin Castel.
L’affaire concerne la plainte d’un passager de la compagnie aérienne Avianca, qui affirme avoir été blessé par un chariot à repas. Dans le document fourni au juge, l'avocat du plaignant se réfère à six décisions de justice d’affaires comparables. Or, aucune n’existe. L’homme de loi a avoué avoir utilisé ChatGPT pour faire ses recherches. Et le chatbot a tout inventé. Selon le New York, Steven Schwartz avait pris la précaution de demander à l’agent conversationnel d'OpenAI de vérifier que les cas cités étaient réels, recevant une réponse affirmative. L'avocat a exprimé ses regrets et juré qu’on ne l’y reprendrait plus. D'éventuelles sanctions à son encontre doivent encore être débattues.
Ce cas va-t-il inciter les cours de justice à formuler des règles d'utilisations de ChatGPT? Techcrunch rapporte qu’une mesure en ce sens est déjà d’actualité au Texas, où un juge fédéral a publié une ordonnance exigeant que les avocats certifient n’avoir pas eu recours à un outil d’IA générative, ou que l'exactitude des termes rédigés par ce type d’outils soit vérifiée par un être humain.
