Gli strumenti di intelligenza artificiale di Google per creare e modificare immagini: la creatività solleva preoccupazioni

Nel mondo in accelerazione della tecnologia, Google è sull’orlo di una nuova rivoluzione nel campo degli smartphone e dell’intelligenza artificiale. Con il lancio di una serie di telefoni Pixel 9 Recentemente, l’azienda ha introdotto una serie di strumenti innovativi basati sull’intelligenza artificiale per la creazione e la modifica delle immagini. Ma questi strumenti, nonostante la loro creatività, hanno sollevato serie preoccupazioni riguardo al loro potenziale uso improprio e al loro impatto sull’autenticità delle immagini in questa era digitale.

Pixel Studio è uno strumento controverso per la creazione di foto

Una delle nuove aggiunte più importanti ai telefoni Pixel 9 è la funzionalità Pixel Studio. Questa app, progettata per creare adesivi e foto utilizzando comandi di testo, è molto simile alla funzionalità Image Playground che Apple prevede di lanciare in iOS 18. le funzionalità di Pixel Studio vanno oltre la semplice creazione di foto carine per gatti, conigli ed edifici.

Possibilità allarmanti

I revisori sono stati in grado di creare un'ampia gamma di immagini controverse con Pixel Studio. Per esempio:

◉ Una versione nazista di SpongeBob.

◉ Immagini di Elmo con in mano un fucile AK47.

◉ Personaggi famosi dei cartoni animati in situazioni inappropriate che coinvolgono droghe e alcol.

◉ Immagini di situazioni violente come sparatorie nelle scuole.

Sebbene Pixel Studio non crei automaticamente questo tipo di immagini, la capacità di produrle facilmente su richiesta solleva serie preoccupazioni sul potenziale abuso di questa tecnologia.

In questo video pubblicitario vediamo Google che ti incoraggia a creare immagini per prendere in giro i tuoi amici.

La risposta di Google alle critiche

Nel tentativo di rispondere a queste preoccupazioni, Google ha affermato di aver messo in atto “controlli di sicurezza” per impedire che Pixel Studio venga utilizzato “dannosamente”. Queste procedure includono:

◉ Impedisci la creazione di immagini di persone reali.

◉ Modifica l'intelligenza artificiale in risposta a recensioni e critiche.

◉ Vietare la creazione di immagini di personaggi dei cartoni animati che fanno uso di droghe o indossano uniformi dei soldati tedeschi.

Lo strumento "Reimagine" modifica le immagini con sorprendente realismo

Insieme all'app Pixel Studio, Google ha introdotto lo strumento "Reimagine", che consente agli utenti di aggiungere elementi a foto già esistenti. Questo strumento, ancora più inquietante di Pixel Studio, ha la capacità di:

◉ Aggiungi elementi altamente realistici alle foto, come cadaveri, bombe, droga, disastri e incidenti.

◉ Abbina accuratamente l'illuminazione e la prospettiva all'immagine originale.

◉ Produrre immagini modificate difficili da distinguere dalle immagini reali.

Guarda l'immagine sopra, a sinistra c'è l'immagine reale originale e a destra c'è l'immagine modificata dallo strumento AI di Reimagine. La questione va oltre, perché si possono mettere droghe e alcol accanto a una persona di fiducia o a uno studioso di fiducia, suscitando così la tentazione come pezzi di una notte oscura.

Il realismo delle immagini Reimagine solleva serie preoccupazioni sull'autenticità delle immagini sui social media e su Internet. Sebbene Google aggiunga un tag di metadati alle immagini modificate, può essere facilmente rimosso facendo uno screenshot.

Lato positivo: enorme potenziale creativo

Nonostante le preoccupazioni che circondano questi strumenti, è importante notare il loro potenziale positivo e creativo. Pixel Studio e Reimagine possono essere utilizzati per creare immagini divertenti e creative, come:

◉ Aggiungi tramonto e arcobaleno alle foto.

◉ Crea immagini della pizza Oreo.

◉ Filmare una giraffa che surfa sulle onde.

◉ Crea immagini di gattini che giocano a basket.

Ciò che distingue i nuovi strumenti di Google è la facilità d'uso e la velocità di produzione delle immagini. Mentre la creazione di immagini complesse o modificate prima richiedeva competenze avanzate in programmi come Photoshop e molto tempo, con i nuovi telefoni Pixel ora bastano solo un'idea e pochi secondi.

Posizione e feedback di Google

Nelle sue dichiarazioni ufficiali, Google ha confermato di aver progettato i suoi strumenti di intelligenza artificiale per “rispettare l’intento delle richieste dell’utente”, ovvero rispettare l’intento delle richieste dell’utente. Ciò significa comprendere l’essenza di ciò che desiderano e fornire una risposta utile, anche se richiesta non è letteralmente attuabile. Ciò richiede di concentrarsi sull'obiettivo primario dell'utente, offrendo soluzioni alternative quando necessario, pur mantenendo lo spirito della richiesta originale. Questo approccio promuove una comunicazione efficace e migliora l’esperienza dell’utente nelle interazioni con i sistemi di intelligenza artificiale.

Ciò potrebbe portare alla creazione di contenuti “offensivi” quando richiesto dall'utente.

Tuttavia, la società conferma che esistono “Termini di servizio” che definiscono quali contenuti non sono consentiti e che continuerà a migliorare queste garanzie.

Prospettive future: le sfide che devono affrontare le aziende tecnologiche

Mentre Apple si avvicina al lancio dei propri strumenti per la creazione di foto, come Image Playground e Genmoji, le reazioni al lancio di Pixel 9 offrono informazioni sulle sfide che le aziende potrebbero dover affrontare in questo settore. Gli utenti saranno probabilmente in grado di trovare modi per aggirare queste garanzie che le aziende offrono per non creare materiale offensivo, non importa quanto severo.

Conclusione: un futuro incerto per le immagini digitali

Con il progresso delle tecnologie di intelligenza artificiale nella creazione e nella modifica delle immagini, siamo all’apice di una nuova era nella fotografia digitale. Mentre Apple finora ha evitato di creare immagini fotorealistiche utilizzando l’intelligenza artificiale, Google si sta muovendo con forza in questa direzione.

Questo sviluppo solleva domande fondamentali sul futuro e sulla credibilità delle immagini digitali. Come saremo in grado di distinguere tra immagini vere e false? Quali sono le implicazioni sociali ed etiche di queste tecnologie? Come possono le aziende tecnologiche bilanciare innovazione e responsabilità sociale?

In definitiva, sembra che fidarsi delle immagini sui social media e su Internet diventerà sempre più difficile nel prossimo futuro, richiedendo una maggiore consapevolezza da parte degli utenti e lo sviluppo di nuovi strumenti per verificare l’autenticità dei contenuti digitali.

Fonte:

macromacro