Googles künstliche Intelligenz-Tools zum Erstellen und Bearbeiten von Bildern: Kreativität gibt Anlass zur Sorge

In der immer schneller werdenden Welt der Technologie steht Google am Rande einer neuen Revolution im Bereich Smartphones und künstliche Intelligenz. Mit der Einführung einer Reihe von Telefonen Pixel 9 Vor Kurzem stellte das Unternehmen eine Reihe innovativer KI-basierter Tools zum Erstellen und Bearbeiten von Bildern vor. Trotz ihrer Kreativität haben diese Tools jedoch ernsthafte Bedenken hinsichtlich ihres Missbrauchspotenzials und ihrer Auswirkungen auf die Authentizität von Bildern im digitalen Zeitalter aufgeworfen.

Pixel Studio ist ein umstrittenes Tool zur Fotoerstellung

Eine der bemerkenswertesten Neuerungen bei den Pixel 9-Telefonen ist die Pixel Studio-Funktion, die zum Erstellen von Aufklebern und Fotos mithilfe von Textbefehlen entwickelt wurde und der Image Playground-Funktion sehr ähnlich ist, die Apple in iOS 18 einführen möchte. Die Möglichkeiten des Pixel Studios gehen über das bloße Erstellen niedlicher Fotos für Katzen, Kaninchen und Gebäude hinaus.

Alarmierende Möglichkeiten

Rezensenten konnten mit Pixel Studio eine Vielzahl kontroverser Bilder erstellen. Zum Beispiel:

◉ Eine Nazi-Version von SpongeBob.

◉ Bilder von Elmo mit einem AK47-Gewehr.

◉ Berühmte Zeichentrickfiguren in unangemessenen Situationen mit Drogen und Alkohol.

◉ Bilder von Gewaltsituationen wie Schießereien in der Schule.

Obwohl Pixel Studio diese Art von Bildern nicht automatisch erstellt, gibt die Möglichkeit, sie problemlos auf Abruf zu produzieren, Anlass zu ernsthaften Bedenken hinsichtlich des Missbrauchspotenzials dieser Technologie.

In diesem Werbevideo sehen wir, wie Google Sie dazu ermutigt, Bilder zu erstellen, um sich über Ihre Freunde lustig zu machen.

Googles Antwort auf Kritik

Um diese Bedenken auszuräumen, gab Google an, „Sicherheitskontrollen“ eingeführt zu haben, um zu verhindern, dass Pixel Studio „böswillig“ verwendet wird. Zu diesen Verfahren gehören:

◉ Verhindern Sie die Erstellung von Bildern von echten Menschen.

◉ Ändern Sie die KI als Reaktion auf Bewertungen und Kritik.

◉ Verbot der Erstellung von Bildern von Zeichentrickfiguren, die Drogen nehmen oder deutsche Soldatenuniformen tragen.

Das „Reimagine“-Tool bearbeitet Bilder mit erstaunlichem Realismus

Zusammen mit der Pixel Studio-App hat Google das Tool „Reimagine“ eingeführt, mit dem Benutzer Elemente zu bereits vorhandenen Fotos hinzufügen können. Dieses Tool, das noch beunruhigender ist als Pixel Studio, bietet folgende Möglichkeiten:

◉ Fügen Sie Fotos äußerst realistische Elemente hinzu, z. B. Leichen, Bomben, Drogen, Katastrophen und Unfälle.

◉ Passen Sie Beleuchtung und Perspektive genau an das Originalbild an.

◉ Erzeugung modifizierter Bilder, die schwer von echten Bildern zu unterscheiden sind.

Schauen Sie sich das Bild oben an. Links ist das echte Originalbild und rechts das mit dem KI-Tool von Reimagine modifizierte Bild. Die Sache geht darüber hinaus, denn man kann Drogen und Alkohol neben eine Person legen, der jemand vertraut, oder einen vertrauenswürdigen Gelehrten, und so Versuchungen erwecken wie Teile einer dunklen Nacht.

Der Realismus der Reimagine-Bilder wirft ernsthafte Bedenken hinsichtlich der Authentizität von Bildern in sozialen Medien und im Internet auf. Obwohl Google bearbeiteten Bildern ein Metadaten-Tag hinzufügt, kann dieses leicht durch Erstellen eines Screenshots entfernt werden.

Positive Seite: großes kreatives Potenzial

Trotz der Bedenken im Zusammenhang mit diesen Tools ist es wichtig, ihr positives und kreatives Potenzial zur Kenntnis zu nehmen. Mit Pixel Studio und Reimagine können Sie unterhaltsame und kreative Bilder erstellen, wie zum Beispiel:

◉ Fügen Sie Fotos Sonnenuntergang und Regenbogen hinzu.

◉ Erstellen Sie Bilder von Oreo-Pizza.

◉ Eine Giraffe beim Surfen auf den Wellen filmen.

◉ Erstellen Sie Bilder von Kätzchen, die Basketball spielen.

Was die neuen Tools von Google auszeichnet, ist ihre Benutzerfreundlichkeit und Geschwindigkeit der Bildproduktion. Während das Erstellen komplexer oder veränderter Bilder früher fortgeschrittene Kenntnisse in Programmen wie Photoshop und viel Zeit erforderte, sind mit den neuen Pixel-Telefonen jetzt nur noch eine Idee und ein paar Sekunden erforderlich.

Google-Position und Feedback

In seinen offiziellen Erklärungen bestätigte Google, dass es seine KI-Tools so konzipiert hat, dass sie „die Absicht der Benutzeraufforderungen respektieren“. ist nicht im wahrsten Sinne des Wortes umsetzbar. Dies erfordert die Konzentration auf das Hauptziel des Benutzers, das Anbieten alternativer Lösungen bei Bedarf unter Beibehaltung des Geists der ursprünglichen Anfrage. Dieser Ansatz fördert eine effektive Kommunikation und verbessert die Benutzererfahrung bei Interaktionen mit KI-Systemen.

Dies kann dazu führen, dass auf Wunsch des Benutzers „anstößige“ Inhalte erstellt werden.

Das Unternehmen bestätigt jedoch, dass es „Nutzungsbedingungen“ gibt, die festlegen, welche Inhalte nicht zulässig sind, und dass es diese Sicherheitsmaßnahmen weiter verbessern wird.

Zukunftsausblick: Herausforderungen für Technologieunternehmen

Während Apple der Einführung seiner eigenen Fotoerstellungstools wie Image Playground und Genmoji immer näher kommt, bieten die Reaktionen auf die Einführung des Pixel 9 Einblick in die Herausforderungen, denen sich Unternehmen in diesem Bereich gegenübersehen könnten. Benutzer werden wahrscheinlich Möglichkeiten finden, diese Garantien zu umgehen, die Unternehmen bieten, um keine anstößigen Beiträge zu erstellen, egal wie streng sie auch sein mögen.

Fazit: Eine ungewisse Zukunft für digitale Bilder

Mit der Weiterentwicklung künstlicher Intelligenztechnologien bei der Bilderstellung und -bearbeitung stehen wir an der Schwelle einer neuen Ära in der digitalen Fotografie. Während Apple es bislang vermeidet, mithilfe von KI fotorealistische Bilder zu erstellen, geht Google stark in diese Richtung.

Diese Entwicklung wirft grundlegende Fragen zur Zukunft und Glaubwürdigkeit digitaler Bilder auf. Wie können wir zwischen echten und gefälschten Bildern unterscheiden? Welche sozialen und ethischen Implikationen haben diese Technologien? Wie können Technologieunternehmen Innovation und soziale Verantwortung in Einklang bringen?

Letztendlich scheint es, dass es in naher Zukunft schwieriger werden wird, Bildern in sozialen Medien und im Internet zu vertrauen, was ein erhöhtes Bewusstsein der Benutzer und die Entwicklung neuer Tools zur Überprüfung der Authentizität digitaler Inhalte erfordert.

Quelle:

Makronen