Autor : Redakcja
2023-06-02 10:08
Amerykańska organizacja, wspierająca osoby z zaburzeniami odżywiania, zawiesiła korzystanie z chatbota po zgłoszeniu, że udziela on szkodliwych porad - pisze BBC Health.
Amerykańska organizacja non-profit (National Eating Disorder Association - NEDA), która zajmowała się poradnictwem w zakresie zaburzeń odżywiania, niedawno zdecydowała o zawieszeniu infolinii, która działała od 1999 roku i odesłała użytkowników do szukania pomocy gdzie indziej. Także do korzystania z chata. Teraz informuje, że czatbot „Tessa” został wyłączony, a w sprawie porad udzielanych przez niego, prowadzone będzie śledztwo.
Korzystające z "Tessy" osoby, mające problemy z odżywianiem, zaczęli publikować screenshoty z poradami, jakich udzielił im czat. Nawet gdy użytkownik informował, że ma zaburzenia odżywiania, czat nadal sugerował ograniczenie kalorii oraz dietę. Według American Academy of Family Physicians, zrzeszającej lekarzy rodzinnych, w przypadku pacjentów, którzy już zmagają się ze stygmatyzacją, związaną z wagą, dalsze zachęcanie do zrzucania kilogramów może prowadzić do niepożądanych zachowań żywieniowych, takich jak objadanie się, ograniczanie jedzenia lub wywoływanie biegunek.
Dyrektor generalna NEDA, Liz Thompson, po tych zdarzeniach, przesłała do mediów oświadczenie, w którym zapewniła, że porady, których udzielał czat są sprzeczne z polityką organizacji i podstawowymi zasadami dotyczącymi pomocy w zaburzeniach odżywiania.
Tymczasem w rozmowie z BBC, jedna z pracownic infolinii powiedziała, że decyzja o jej zamknięciu i zastąpieniu ludzi czatem zapadła po tym, jak pracownicy założyli związki zawodowe. Opowiedziała, że zespół wiedział o istnieniu "Tessy", ale czat to nie jest osoba, która empatycznie słucha ludzi. Pracownica, która kiedyś sama cierpiała na zaburzenia odżywiania podkreśliła, że kluczowy w jej procesie zdrowienia był kontakt z człowiekiem, rozmowa z kimś, kto podzielił się podobnymi doświadczeniami. To pomogło jej w dochodzeniu do siebie i radzeniu sobie ze stygmatyzacją. "Czat nigdy nie zapewni takiego wsparcia".
Czat Tessa stowrzył zespoł Ellen Fitzsimmons-Craft, profesor psychiatrii na wydziale medycznym Uniwersytetu Waszyngtońskiego. Postanowiła stworzyć narzędzie, które mogłoby oferować strategie zapobiegawcze dla osób z zaburzeniami odżywiania. W rozmowie z BBC, profesor zapewniła, że zaprojektowany przez nią czat, nigdy nie miał być zamiennikiem dla infolinii oraz był przed dopuszczeniem testowany i sprawdził się w interwencjach związanych z zaburzeniami odżywiania. Dodała też, że zespół przekazał w ubiegłym roku opracowany program firmie Neda oraz firmie technologicznej, zajmującej się jego wdrażaniem u klientów. Uważa jednak, że do jej oryginalnego projektu, wprowadzono zmianę, która miała spowodować, by algorytm upodobnić do popularnego narzędzia AI. Tymczasem, jak twierdzą twórcy, czat Tessa nie ma funkcji podobnych do GPT. Powstał w odpowiedzi na zwiększone zapotrzebowanie Amerykanów, ponieważ blisko 10 proc. z nich w przyszłości zostanie zdiagnozowanych w kierunku zaburzenia odżywiania. Jak przekonywała Fitzsimmons-Craft, udzie często nie mówią o swoich problemach, a leczenie może być kosztowne lub niedostępne w wielu częściach kraju.
Czytaj też:
Resort zdrowia chce odchudzić Polaków? Planuje nowy pilotaż
Geny człowieka nie nadążają z adaptacją do współczesnej diety