In een snelle en onverwachte ommezwaai, die bewijst dat privacy voor gebruikers een rode lijn blijft, heeft Meta besloten een controversiële functie uit zijn nieuwe AI-gestuurde model voor beeldgeneratie te verwijderen, minder dan een week na de lancering. Blijkbaar was de stortvloed aan felle kritiek en de verontwaardiging van gebruikers voldoende om het bedrijf een lesje te leren over het respecteren van persoonlijke ruimte en privégegevens.
Het verhaal achter de "geheime" functie
Het verhaal begon toen Meta zijn nieuwe model voor beeldgeneratie aankondigde, Muse Image, waarmee gebruikers hoogwaardige afbeeldingen kunnen maken en deze direct in Stories of berichten kunnen delen. Tot zover lijkt dit normaal en gangbaar in vergelijking met wat concurrenten zoals OpenAI of Google bieden. Maar zoals gebruikelijk bij Meta, zat er een verborgen en zeer verontrustende clausule in die er stiekem doorheen was geglipt.
Het bedrijf besloot, zonder voorafgaande waarschuwing of expliciete toestemming, de openbare foto's van alle Instagram-gebruikers te gebruiken als brandstof voor zijn AI-tool voor het genereren van afbeeldingen. Dit betekende dat elke willekeurige voorbijganger je gebruikersnaam (via een @vermelding) in de Meta AI-app kon typen, waarna de AI je openbare profielfoto's zou gebruiken en je kenmerken zou toepassen om volledig nieuwe afbeeldingen te creëren, zonder dat je er ook maar een melding van kreeg dat je foto's waren gebruikt in de digitale fantasieën van iemand anders!
De verborgen optie van schorsing en vakbondsdruk.
Meta bood natuurlijk wel een optie om je af te melden, maar zoals gebruikelijk zat die diep verborgen in de ingewikkelde instellingen van de app, alleen toegankelijk voor diegenen die er met veel moeite en voorkennis naar zochten. Het bedrijf stuurde geen meldingen in de app om gebruikers te informeren dat hun afbeeldingen nu door de AI van Meta werden gebruikt, maar vermeldde het slechts in een technisch bericht in de zijbalk dat slechts door een handjevol specialisten werd gelezen.
Deze flagrante schending van de privacy leidde tot wijdverspreide verontwaardiging, niet alleen onder gewone gebruikers. Grote organisaties zoals de Screen Actors Guild-Africa (SAG-AFTRA) grepen in en drongen er bij hun leden op aan hun abonnementen onmiddellijk op te zeggen om hun rechten en afbeeldingen te beschermen tegen digitale uitbuiting. Organisaties voor openbare veiligheid, zoals het National Center Against Sexual Exploitation, veroordeelden de beslissing van Meta eveneens ten zeerste en riepen op tot een onmiddellijke terugdraaiing. Ze waarschuwden voor het gemak waarmee de tool misbruikt kon worden voor chantage en het maken van compromitterende afbeeldingen.
Officiële terugtrekking en angst voor deepfakes
Geconfronteerd met deze immense druk gaf Meta zich slechts drie dagen na de aankondiging van de functie gewonnen. Het bedrijf bracht een officiële update uit waarin indirect excuses werden aangeboden: "Ons doel was om een nuttige creatieve tool te bieden en gebruikers controle te geven, maar we hebben geluisterd naar feedback die bevestigde dat deze functie niet aan de verwachtingen voldeed, en daarom is deze niet langer beschikbaar."
Wat er gebeurde doet denken aan de chaos die Elon Musks Grok-tool eerder dit jaar op het X-platform veroorzaakte, toen gebruikers accounts konden taggen om onethische en aanstootgevende deepfake-afbeeldingen te genereren zonder toestemming van de eigenaren. Hoewel Meta beweert dat er beveiligingsmaatregelen zijn getroffen, blijft het voorkomen dat generatieve AI ethische grenzen overschrijdt een verloren strijd, tenzij de deur vanaf het begin gesloten is en de privacy van gebruikers daadwerkelijk wordt gerespecteerd.
Bron:
5 opmerkingen