Meta wycofuje funkcję Muse Image po sporze o zgodę i publiczne zdjęcia z Instagrama

Meta wycofała funkcję Muse Image, która pozwalała wskazać publiczne konto na Instagramie jako referencję podczas generowania obrazu. Decyzja nastąpiła kilka dni po premierze modelu i po krytyce dotyczącej zgody, kontroli nad wizerunkiem oraz domyślnego objęcia publicznych profili mechanizmem referencji.

Firma przekazała, że jej celem było dostarczenie użytecznego narzędzia kreatywnego i pozostawienie użytkownikom kontroli, ale przyznała, że funkcja „nie trafiła w oczekiwania” i przestała być dostępna. Sam model Muse Image pozostaje szerszym produktem; wycofano kontrowersyjny sposób wykorzystywania publicznych kont jako referencji.

Co dokładnie się zmieniło

Meta zaprezentowała Muse Image jako model generowania i edycji obrazów zintegrowany z Meta AI. W materiałach premierowych pokazywała między innymi personalizację na podstawie połączonych kont oraz tworzenie treści do publikacji w ekosystemie firmy.

Sporny mechanizm pozwalał użytkownikowi odwołać się do publicznego profilu na Instagramie. Zdjęcia z takiego konta mogły posłużyć jako materiał referencyjny do wygenerowania nowej grafiki. Według relacji AP funkcja automatycznie obejmowała publiczne konta, co wywołało falę instrukcji dotyczących rezygnacji i obaw o nieautoryzowane cyfrowe repliki.

Ważne rozróżnienie: publiczne informacje nie potwierdzają, że każde zdjęcie było w tym momencie używane do ponownego trenowania modelu. Kontrowersja dotyczyła wykorzystania treści jako referencji w procesie generowania. Mieszanie tych dwóch procesów utrudnia ocenę ryzyka i prowadzi do niedokładnych nagłówków.

Publiczne nie znaczy wolne od kontekstu

Ustawienie konta jako publicznego oznacza możliwość oglądania treści w określonym kontekście platformy. Nie każdy użytkownik interpretuje to jako zgodę na tworzenie syntetycznych wersji własnego wizerunku, stylu fotograficznego lub pracy twórczej przez osoby trzecie.

Właśnie tutaj produktowa definicja zgody rozmija się z oczekiwaniem użytkownika. Formalnie dostępna opcja rezygnacji może być niewystarczająca, gdy:

funkcja jest włączona domyślnie;
komunikat nie pojawia się przed pierwszym możliwym użyciem;
ustawienie jest trudne do znalezienia;
właściciel treści nie otrzymuje powiadomienia o wygenerowaniu materiału;
wynik może sugerować działanie lub wypowiedź, które nigdy nie miały miejsca.

Ryzyko rośnie w przypadku osób publicznych, pracowników pełniących wrażliwe role, dzieci, twórców i osób narażonych na nękanie.

Lekcja dla firm budujących produkty AI

Zgoda musi być powiązana z konkretnym zastosowaniem

Jedna zgoda na publikację lub przetwarzanie danych nie powinna automatycznie obejmować nowego, jakościowo innego sposobu użycia. Trzeba opisać cel prostym językiem: jakie dane są pobierane, kto może ich użyć, co może powstać i gdzie wynik będzie widoczny.

Bezpieczniejszy domyślny wariant zmniejsza ryzyko

Dla funkcji umożliwiających generowanie wizerunku innej osoby rozsądniejszym punktem wyjścia jest świadome opt-in. Dodatkowe tarcie może obniżyć liczbę użyć, ale również ogranicza liczbę incydentów, skarg i późniejszych wycofań produktu.

Potrzebna jest kontrola właściciela danych

Użytkownik powinien móc sprawdzić status, wycofać zgodę i zrozumieć konsekwencje. W zastosowaniach wysokiego ryzyka warto rozważyć powiadomienie, rejestr użycia, blokadę dla wybranych kont oraz procedurę szybkiego usunięcia wyniku.

Testy muszą objąć nadużycie, nie tylko jakość obrazu

Red teaming generatora nie może ograniczać się do sprawdzania, czy tworzy realistyczne grafiki. Trzeba przetestować podszywanie się, seksualizację, nękanie, obejście blokad, łączenie wielu referencji, wykorzystanie kont nieletnich i generowanie materiału sugerującego przestępstwo lub kompromitujące zachowanie.

Minimalna ocena ryzyka przed uruchomieniem podobnej funkcji

Zespół powinien udokumentować co najmniej:

Podstawę użycia danych — skąd pochodzą i jaki zakres obejmuje zgoda.
Model uprawnień — kto może wskazać osobę, markę lub zasób jako referencję.
Ryzyko szkody — jakie realistyczne nadużycia mogą dotknąć właściciela treści.
Kontrole prewencyjne — opt-in, ograniczenia kategorii, rate limiting i blokady.
Możliwość wykrycia — logi, oznaczanie treści i obsługa zgłoszeń.
Wyjście awaryjne — kill switch, wycofanie funkcji i komunikacja z użytkownikami.
Retencję — jak długo przechowywane są wejścia, wyniki i dane audytowe.

Taka ocena powinna nastąpić przed premierą, a nie dopiero po reakcji użytkowników. Wymaga udziału bezpieczeństwa, prywatności, prawników, product ownera i osób reprezentujących grupy najbardziej narażone na nadużycie.

Co to oznacza dla wdrożeń wewnętrznych

Ten sam problem występuje w firmowych generatorach treści. Materiały znajdujące się w SharePoint, CRM lub dysku zespołu są technicznie dostępne, ale niekoniecznie przeznaczone do każdego celu. Agent marketingowy nie powinien automatycznie pobierać zdjęć pracowników, danych kandydatów albo nieopublikowanych materiałów klienta tylko dlatego, że ma do nich uprawnienie techniczne.

Bezpieczne wdrożenie AI powinno mapować dostęp techniczny na dozwolone cele biznesowe, stosować minimalne uprawnienia i rejestrować wykorzystanie danych wrażliwych. AI red teaming pozwala natomiast sprawdzić, czy użytkownik potrafi obejść deklarowane granice i wygenerować szkodliwy materiał.

Wniosek

Wycofanie funkcji przez Meta pokazuje, że jakość modelu nie zastępuje właściwego projektu zgody. Produkt może działać dokładnie zgodnie ze specyfikacją i jednocześnie tworzyć nieakceptowalne ryzyko społeczne, prawne i reputacyjne.

Najlepszym zabezpieczeniem nie jest rozbudowany regulamin, lecz spójność trzech elementów: świadomego wyboru użytkownika, technicznego ograniczenia nadużyć i szybkiej reakcji, gdy rzeczywiste użycie odbiega od założeń zespołu.

Źródła: Meta — Introducing Muse Image, Associated Press — Meta reins in new AI tool after criticism, SAG-AFTRA — stanowisko przytoczone przez AP.