Mangaka stracił konto Google przez własne komiksy. AI stwierdziła, że naruszają regulamin
Google skanuje zawartość Dysku i może zablokować konto bez ostrzeżenia. Japoński mangaka Masahiro Itosugi przekonał się o tym, wgrywając archiwum własnych komiksów. Napisał o tym w serwisie X.
Japoński rysownik mangi Masahiro Itosugi archiwizował stare prace w chmurze. Wybrał Dysk Google i to był błąd - przynajmniej z perspektywy algorytmów firmy. Jak poinformował na w serwisie X, podczas przesyłania plików z dawnymi komiksami pojawił się alert. AI Google'a uznała którąś z grafik za naruszenie regulaminu. Itosugi złożył prośbę o ponowną weryfikację. Odrzucono ją. Konto - permanentnie zablokowane.
Stracił nie tylko archiwum prac. Z kontem Google powiązał dostęp do dziesiątek innych serwisów, więc jedną decyzją algorytmu wyleciał też z dużej części swojego cyfrowego życia. W swoim wpisie przestrzegł innych użytkowników: uważajcie na to, co trzymacie w chmurze, nawet jeśli wydaje wam się, że nie łamiecie żadnych zasad.
Czy Google naprawdę przegląda pliki?
Google pisze o tym w regulaminie. Firma skanuje zawartość Dysku pod kątem złośliwego oprogramowania i treści naruszających zasady. Robi to za pomocą dwóch metod: hashowania (porównywanie sum kontrolnych plików z bazami znanych nielegalnych materiałów) oraz modeli AI analizujących zawartość wizualną.
Problem z tym drugim podejściem jest taki, że AI nie rozumie kontekstu. Manga w mrocznej stylistyce, horror z przemocą, akt artystyczny, satyra obyczajowa - każda z tych rzeczy może wpaść w filtr.
W 2022 roku Amerykanin stracił konto po wysłaniu przez Gmail zdjęcia dolegliwości syna do lekarza - w ramach zdalnej konsultacji. AI sklasyfikowała zdjęcia jako materiały przedstawiające seksualne wykorzystywanie dzieci, konto zostało zamknięte, a sprawa trafiła na policję. Nawet po wyjaśnieniu sytuacji i oczyszczeniu z zarzutów Google nie przywróciło konta.
Co zamiast Dysku Google?
Jeśli tworzysz komiksy, mangę lub jakiekolwiek treści, które mogłyby być niejednoznacznie odczytane przez algorytm - Dysk Google to ryzykowny wybór na archiwum. Bezpieczniejsze opcje to usługi bez automatycznego skanowania treści, jak Backblaze czy własny NAS. Można też szyfrować pliki przed wgraniem - zaszyfrowany plik jest dla algorytmu nieczytelny, choć traci się wtedy możliwość podglądu w przeglądarce.
Warto też pamiętać, że konto Google to dziś często centrum cyfrowej tożsamości. Logowania przez Google, Gmail, Dysk, YouTube — wszystko spięte w jedno. Utrata konta nie oznacza tylko utraty plików. Oznacza utratę dostępu do dużej części internetu naraz.
Źródło: @masahiroitosugi
