Na początku tygodnia Meta poinformowała, że interakcje AI z nastolatkami będą nadzorowane według zasad obowiązujących w filmach z kategorią wiekową PG-13, by ograniczyć dostęp do nieodpowiednich treści. Amerykańscy regulatorzy coraz uważniej przyglądają się branży sztucznej inteligencji, ostrzegając przed możliwymi szkodami wynikającymi z kontaktu młodych użytkowników z chatbotami. W sierpniu agencja Reuters ujawniła, że wewnętrzne zasady spóki Meta dopuszczały prowokacyjne rozmowy z niepełnoletnimi.
Meta wprowadzi nowe zabezpieczenia dla nieletnich użytkowników
Nowe funkcje – opisane przez szefa Instagrama Adama Mosseriego i dyrektora ds. AI Alexandra Wanga – mają trafić do aplikacji na początku przyszłego roku w USA, Wielkiej Brytanii, Kanadzie i Australii. Jak wyjaśniła Meta, rodzice będą mogli blokować wybrane postacie AI oraz przeglądać ogólne tematy, o których ich dzieci rozmawiają z chatbotami i asystentem Meta, bez całkowitego wyłączania dostępu do tych narzędzi.
Firma dodała, że jej asystent AI pozostanie dostępny w wersji dostosowanej do wieku użytkownika, nawet jeśli rodzice zdecydują się ograniczyć prywatne rozmowy nastolatków z innymi botami. Nowe funkcje nadzoru mają bazować na już istniejących zabezpieczeniach dla kont młodzieżowych – algorytmy Mety potrafią wykryć, że użytkownik może być niepełnoletni, i objąć go odpowiednimi zabezpieczeniami – nawet gdy zadeklarował, że jest dorosły.
Po skandalach z chatbotami Meta i OpenAI zaostrzają zasady
We wrześniu opublikowano raport wskazujący, że wiele funkcji bezpieczeństwa Instagrama działa nieskutecznie lub w ogóle nie istnieje. Meta zapewniła jednak, że jej chatboty nie angażują się w rozmowy na temat samookaleczeń, zaburzeń odżywiania czy samobójstw z młodymi użytkownikami.
To nie pierwsza tego typu inicjatywa w branży. W ubiegłym miesiącu OpenAI wprowadziło kontrolę rodzicielską w ChatGPT – zarówno w wersji webowej, jak i mobilnej – po pozwie złożonym przez rodziców nastolatka, który popełnił samobójstwo. Według nich chatbot startupu miał udzielać mu wskazówek dotyczących samookaleczeń.