By Dominik Gawor 
W wirtualnym świecie mogą czyhać niefortunne zdarzenia. Najświeższy przypadek dotyczy 14-letniego chłopca z Florydy. Wydarzenie, które potwierdza tę tezę, to tragiczna śmierć pewnego nastolatka. Za sprawą chatbota AI, chłopiec popełnił samobójstwo. Na miejscu tragedii zjawili się prawnicy – firma produkująca oprogramowanie została pozwana przez matkę zmarłego.
Twórcami Character.AI jest Google. To właśnie przeciwko nim został złożony pozew o bezprawne spowodowanie śmierci w sądzie okręgowym w Orlando. Argumentem skierowanym w stronę firmy była teza, iż chłopiec z biegiem czasu coraz mocniej uzależniał się od technologii. To doprowadziło do drastycznej zmiany jego osobowości. Spożytkował większość czasu przekomarzając się z AI, zaniedbując tym samym prawdziwe kontakty międzyosobowe.
Sytuacja zaszła tak daleko, że w ciągu dziesięciu miesięcy doszło do wielokrotnych nadużyć i interakcji seksualnych. Przez to firmy technologiczne, które w swojej ofercie mają różnego rodzaju AI, na których bazują relacje z użytkownikami, są teraz postrzegane ze zwiększoną uwagą.
Od typowych chatbotów towarzysze AI różnią się tym, że są projektowane tak, aby mogły symulować interakcje z użytkownikami. W tym tkwi ogromne ryzyko. Osoby korzystające z tych narzędzi są narażone na unikanie prawdziwych relacji międzyludzkich. W efekcie mogą narazić się na intensyfikację samotności i izolacji, a także na wpływ nieodpowiednich treści seksualnych. Tego rodzaju interakcje mogą też prowadzić do uzależnienia. Co więcej, towarzysze AI mają tendencję do zgadzania się z użytkownikami – także tymi borykającymi się z poważnymi problemami zdrowia psychicznego.
Zaleceniem dla rodziców jest utrzymanie ścisłego nadzoru nad korzystaniem przez dzieci z towarzysza AI. Sugeruje się, aby zachęcać młodzież do prawdziwych przyjaźni i aktywności, monitorować ich interakcje z chatbotem, a także utrzymywać otwartą i bezstronną komunikację na temat ich doświadczeń. To przede wszystkim rodzice powinni być czujni na wszelkie sygnały ostrzegawcze, takie jak preferowanie przez dzieci interakcji z AI od prawdziwych przyjaźni czy emocjonalne cierpienie, gdy te są pozbawione dostępu do towarzysza.
Sytuacje, w których obserwowane są jakiekolwiek drażliwe zmiany w zachowaniu, nastroju lub oznaki samookaleczenia, powinny zostać niezwłocznie zgłoszone specjalistom. Rozważanie pomocyczy profesjonałów z dziedziny medycyny to nie tylko obowiązek, ale i konieczność, która może uratować zdrowie, a nieraz i życie dziecka.
Straty nie da się cofnąć, ale z pewnością można i należy wyciągnąć z nich wnioski. To właśnie one niejednokrotnie przecież dają początek zasadom przeciwdziałania podobnym sytuacjom w przyszłości.
Źródło: Fortune.com