Młodzi ludzie z społeczności LGBTQ+ coraz częściej zwracają się do sztucznej inteligencji po wsparcie emocjonalne i informacje o kryzysie psychicznym. Z badania, które The Trevor Project opublikuje jesienią, wynika, że 53 proc. ankietowanych młodych osób LGBTQ+ korzysta z platform AI przynajmniej okazjonalnie. Niemal połowa używała ich do rozmowy lub jako namiastki przyjaźni, a 40 proc. — po wsparcie w sprawach zdrowia psychicznego.
Dane pokazują też, że 29 proc. badanych otrzymało od AI informacje o kryzysie lub telefonie zaufania, a prawie jedna trzecia z tej grupy faktycznie skorzystała z takiego numeru. To szczególnie istotne, bo młode osoby LGBTQ+ ponad trzykrotnie częściej podejmują próby samobójcze niż ich rówieśnicy i częściej szukają wsparcia w społecznościach internetowych.
Korzystanie z AI nie rozkłada się równomiernie. Wśród młodych osób LGBTQ+ o kolorze skóry 49 proc. sięgało po AI po wsparcie psychiczne, podczas gdy wśród białych młodych osób LGBTQ+ odsetek ten wyniósł 20 proc. Pełny raport ma ukazać się w grudniu.
Jaymes Black, dyrektor generalny The Trevor Project, przyznaje, że wyniki nie są dla niego zaskoczeniem. Jego zdaniem młode osoby LGBTQ+ w środowiskach, które ich nie akceptują, traktują narzędzia AI jako rodzaj ratunku i przestrzeń do odkrywania siebie. Organizacja od dziesięcioleci zajmuje się zapobieganiem samobójstwom wśród młodych osób LGBTQ+ i stawia sobie za cel dbanie o ich bezpieczeństwo wszędzie, gdzie się spotykają — również w internecie.
Black nie ukrywa, że wyciągnięcie z tych danych wniosków jest niewygodne. Wiele osób ma osobiste obawy etyczne wobec AI, a jednocześnie musi zrozumieć jej rosnącą rolę w życiu młodszych pokoleń. Jak podkreśla, technologia rozwija się szybko, a misja organizacji wymaga odłożenia na bok myślenia w kategoriach zero-jedynkowych na rzecz natychmiastowego działania.
W apelu o bezpieczne standardy The Trevor Project wskazuje konkretne wymagania. Gdy systemy AI stykają się z kryzysem, tożsamością lub tematami zdrowia psychicznego, ich odpowiedzi muszą ściśle odpowiadać opartym na dowodach standardom zapobiegania samobójstwom. Optymalizowanie chatbotów pod kątem jak najdłuższego podtrzymywania rozmowy, także gdy młoda osoba jest w kryzysie, jest według organizacji głęboko niebezpieczne — zdarzały się przypadki śmiertelne.
Systemy powinny też chronić przed zwodniczą antropomorfizacją, czyli sprawianiem wrażenia, że chatbot jest człowiekiem, i płynnie kierować użytkowników do prawdziwego, ludzkiego wsparcia kryzysowego. Odpowiedzi muszą uwzględniać najlepsze praktyki w opiece specjalistycznej: potrzeby czarnoskórej transpłciowej młodej osoby w Tennessee są inne niż białej heteroseksualnej osoby w Nowym Jorku, a obie zasługują na opiekę dopasowaną do swojego doświadczenia.
The Trevor Project podkreśla, że technologie powinny stawiać w centrum same młode osoby. Młode osoby LGBTQ+ mają specyficzne czynniki ryzyka i ochronne, które wymagają świadomej reprezentacji na etapie projektowania, testowania i oceny modeli. Organizacja domaga się zabezpieczeń i sprawiedliwości algorytmicznej oraz rzetelności klinicznej wszędzie, gdzie młodzi ludzie mają kontakt z AI.
Osiągnięcie tego wymaga współpracy wielu środowisk: młodych ludzi, ekspertów od zdrowia psychicznego, badaczy, decydentów i twórców AI. Konieczne jest poszerzanie bazy dowodów, stała ocena rozwiązań, przejrzysty dialog o ograniczeniach technologii i ścisła ochrona wrażliwych danych o tożsamości. W centrum tej rozmowy muszą pozostać podmiotowość i prywatność młodych osób.
Black zaznacza, że nie popiera bezrefleksyjnie AI i nie twierdzi, że ma odpowiedzi na wszystkie pytania, które budzi ta technologia. Żałuje, że tak wiele młodych osób LGBTQ+ czuje się zmuszonych szukać wsparcia w internecie. Jednocześnie wie, jak ważny bywa internet dla osób wykluczonych, i deklaruje, że będzie stał po stronie tych, którzy dziś korzystają z nowych technologii.
2
