De kunstmatige-intelligentietools van Google voor het maken en bewerken van afbeeldingen: creativiteit baart zorgen

In de steeds snellere wereld van de technologie staat Google aan de vooravond van een nieuwe revolutie op het gebied van smartphones en kunstmatige intelligentie. Met de lancering van een reeks telefoons Pixel 9 Onlangs introduceerde het bedrijf een reeks innovatieve, op AI gebaseerde tools voor het maken en bewerken van afbeeldingen. Maar deze hulpmiddelen hebben, ondanks hun creativiteit, ernstige zorgen doen rijzen over hun potentieel voor misbruik en hun impact op de authenticiteit van beelden in dit digitale tijdperk.

Pixel Studio is een controversieel hulpmiddel voor het maken van foto's

Een van de meest opvallende nieuwe toevoegingen aan de Pixel 9-telefoons is de Pixel Studio-functie. Deze app, ontworpen om stickers en foto's te maken met behulp van tekstopdrachten, lijkt sterk op de Image Playground-functie die Apple van plan is te lanceren in iOS 18. de mogelijkheden van de Pixel Studio gaan verder dan alleen het maken van schattige foto's voor katten, konijnen en gebouwen.

Alarmerende mogelijkheden

Recensenten hebben met Pixel Studio een breed scala aan controversiële afbeeldingen kunnen maken. Bijvoorbeeld:

◉ Een nazi-versie van SpongeBob.

◉ Foto's van Elmo met een AK47-geweer in zijn hand.

◉ Beroemde stripfiguren in ongepaste situaties waarbij drugs en alcohol betrokken zijn.

◉ Foto's van gewelddadige situaties zoals schietpartijen op scholen.

Hoewel Pixel Studio dit soort afbeeldingen niet automatisch maakt, roept de mogelijkheid om ze eenvoudig op aanvraag te produceren ernstige zorgen op over de mogelijkheid van misbruik van deze technologie.

In deze advertentievideo zien we dat Google je aanmoedigt afbeeldingen te maken om je vrienden voor de gek te houden.

Google's reactie op kritiek

In een poging deze zorgen weg te nemen, zei Google dat het ‘veiligheidscontroles’ heeft ingevoerd om te voorkomen dat Pixel Studio ‘kwaadwillig’ wordt gebruikt. Deze procedures omvatten:

◉ Voorkom het maken van afbeeldingen van echte mensen.

◉ Pas de AI aan naar aanleiding van recensies en kritiek.

◉ Verbod op het maken van afbeeldingen van stripfiguren die drugs gebruiken of Duitse soldatenuniformen dragen.

De tool "Reimagine" bewerkt afbeeldingen met verbazingwekkend realisme

Samen met de Pixel Studio-app heeft Google de tool ‘Reimagine’ geïntroduceerd, waarmee gebruikers elementen kunnen toevoegen aan reeds bestaande foto’s. Deze tool, die nog verontrustender is dan Pixel Studio, heeft de mogelijkheid om:

◉ Voeg zeer realistische elementen toe aan foto's, zoals lijken, bommen, drugs, rampen en ongelukken.

◉ Stem de belichting en het perspectief nauwkeurig af op het originele beeld.

◉ Het produceren van gewijzigde afbeeldingen die moeilijk te onderscheiden zijn van echte afbeeldingen.

Kijk naar de afbeelding hierboven, aan de linkerkant is de originele echte afbeelding en aan de rechterkant is de afbeelding aangepast door de AI-tool van Reimagine. De zaak gaat verder dan dat, omdat je drugs en alcohol naast een persoon kunt plaatsen die mensen vertrouwen of een vertrouwde geleerde, waardoor verleiding ontstaat als stukjes van een donkere nacht.

Het realisme van Reimagine-afbeeldingen roept ernstige zorgen op over de authenticiteit van afbeeldingen op sociale media en internet. Hoewel Google een metadatatag aan bewerkte afbeeldingen toevoegt, kan deze eenvoudig worden verwijderd door een screenshot te maken.

Positieve kant: enorm creatief potentieel

Ondanks de zorgen rond deze instrumenten is het belangrijk om hun positieve en creatieve potentieel te onderkennen. Pixel Studio en Reimagine kunnen worden gebruikt om leuke en creatieve afbeeldingen te maken, zoals:

◉ Voeg zonsondergang en regenboog toe aan foto's.

◉ Maak afbeeldingen van Oreo-pizza.

◉ Filmen van een giraffe die op de golven surft.

◉ Maak foto's van kittens die basketbal spelen.

Wat de nieuwe tools van Google onderscheidt, is hun gebruiksgemak en snelheid van beeldproductie. Terwijl het maken van complexe of gewijzigde afbeeldingen voorheen geavanceerde vaardigheden in programma's als Photoshop en veel tijd vereiste, kost het nu slechts een idee en een paar seconden met de nieuwe Pixel-telefoons.

Positie en feedback van Google

In zijn officiële verklaringen bevestigde Google dat het zijn AI-tools heeft ontworpen om “de bedoeling van gebruikersprompts te respecteren”, of de bedoeling van gebruikersprompts te respecteren. Dit betekent dat ze de essentie begrijpen van wat ze willen en een nuttig antwoord geven, zelfs als het verzoek wordt beantwoord is niet letterlijk uitvoerbaar. Dit vereist dat men zich concentreert op het primaire doel van de gebruiker en, indien nodig, alternatieve oplossingen aanbiedt, terwijl de geest van het oorspronkelijke verzoek behouden blijft. Deze aanpak bevordert effectieve communicatie en verbetert de gebruikerservaring bij interacties met AI-systemen.

Dit kan resulteren in het creëren van “aanstootgevende” inhoud wanneer daarom wordt gevraagd door de gebruiker.

Het bedrijf bevestigt echter dat er ‘Servicevoorwaarden’ zijn waarin wordt gedefinieerd welke inhoud niet is toegestaan, en dat het deze waarborgen zal blijven verbeteren.

Toekomstperspectief: uitdagingen waarmee technologiebedrijven worden geconfronteerd

Nu Apple dichter bij de lancering van zijn eigen tools voor het maken van foto's komt, zoals Image Playground en Genmoji, bieden de reacties op de lancering van de Pixel 9 inzicht in de uitdagingen waarmee bedrijven op dit gebied te maken kunnen krijgen. Gebruikers zullen waarschijnlijk manieren kunnen vinden om deze garanties te omzeilen die bedrijven bieden om geen aanstootgevende inzending te creëren, hoe streng deze ook is.

Conclusie: Een onzekere toekomst voor digitale beelden

Met de vooruitgang van kunstmatige intelligentietechnologieën bij het maken en bewerken van afbeeldingen staan ​​we aan de vooravond van een nieuw tijdperk in digitale fotografie. Hoewel Apple tot nu toe heeft vermeden fotorealistische afbeeldingen te maken met behulp van AI, beweegt Google zich sterk in deze richting.

Deze ontwikkeling roept fundamentele vragen op over de toekomst en geloofwaardigheid van digitale beelden. Hoe kunnen we onderscheid maken tussen echte en nepbeelden? Wat zijn de sociale en ethische implicaties van deze technologieën? Hoe kunnen technologiebedrijven innovatie en sociale verantwoordelijkheid met elkaar in evenwicht brengen?

Uiteindelijk lijkt het erop dat het vertrouwen van afbeeldingen op sociale media en internet in de nabije toekomst moeilijker zal worden, waardoor een groter bewustzijn van gebruikers en de ontwikkeling van nieuwe hulpmiddelen nodig zullen zijn om de authenticiteit van digitale inhoud te verifiëren.

Bron:

MacRumors