Делото Garcia v. Character Technologies (Меган Гарсия срещу Character Technologies, Inc. и др.) е знаково федерално съдебно дело в САЩ, Флорида (Орландо) относно отговорността на компаниите за изкуствен интелект и свободата на словото. Делото се води от Меган Гарсия, майка на 14-годишния Сеуел Сетцер III, който се самоубива след месеци на интензивно общуване с чатбот на платформата Character.AI, вдъхновен от герои от „Игра на тронове“, срещу компанията Character Technologies (създала Character.AI), съоснователите Ноам Шазеер и Даниел Де Фрейтас, както и Google (финансирала проекта).
Character Technologies пледира, че текстовете, генерирани от техния езиков модел (LLM), представляват защитена реч по Първата поправка на американската конституция, а потребителите имат право да получават тази информация. Те цитират решението Citizens United, според което защитата е за речта, а не за произнасящите я. От своя страна майката се позовава на дело за Blackie the Talking Cat, говорещата котка, за която съдът е казал, че няма закрила по Първата поправка, макар да е обучена да “издава “говори”.
Притежават ли AI чатботовете права на свобода на изразяване, предоставени съгласно Първата поправка на Конституцията на САЩ на хората?
На 21 май 2025 г. съдия Ан Конуей отхвърля искането на компанията за прекратяване на делото и да дефинира алгоритмично генерирания от изкуствен интелект текст като „реч“ в смисъла на Първата поправка. Съдия Конуей не приема, че поредицата от думи, генерирана от алгоритми чрез статистическа обработка на данни, представлява конституционно защитена “реч”, тъй като на модела липсва човешко намерение за изразяване.
Фактите по делото: Sewell, 14-годишен деветокласник от Орландо, Флорида, е прекарал месеци в разговори с чатботове на Character.AI, приложение за ролеви игри, което позволява на потребителите да създават свои собствени A.I. герои или да разговарят с герои, създадени от други. Той знаеше, че „Дани“, както той наричаше чатбота, не беше истински човек — че отговорите му са само изходите на един A.I. езиков модел, че няма човек от другата страна на екрана, който му отговаря. Но въпреки това разви емоционална привързаност. Той постоянно пишеше на бота, актуализирайки го десетки пъти на ден и участвайки в дълги ролеви диалози. Съобщава, че е влюбен и щастлив и когато ТЯ го вика при себе си, той се самоубива.
Условията за ползване на Character.AI изискват потребителите да бъдат най-малко на 13 години в Съединените щати и на 16 – в Европа. Няма специфични функции за безопасност за непълнолетни потребители и няма родителски контрол, който да позволява на родителите да ограничават използването на платформата от децата си или да наблюдават техните съобщения, пише New York Times.
Решението е правен прецедент. Смята се, че отваря врата към търсене на съдебна отговорност на разработчиците при вредни последици от техните модели.
