1. BuzzFeed
  2. News

Informatiker verkauft Kinderbuch, das er mithilfe von KI erstellte und erntet Shitstorm

Erstellt:

Kommentare

Ammaar Reshi hält das Buch „Alice and Sparkle“ und grinst in die Kamera.
Ammaar Reshi mit seinem Buch „Alice and Sparkle“ © Ammaar Reshi

Ammaar Reshi stellt ein Kinderbuch innerhalb von 72 Stunden her und bekommt anschließend Todesdrohungen im Netz.

Ammaar Reshi, 28, ist schon seit Kindertagen davon fasziniert, was Technologie alles kann. „Ich war immer schon neugierig und mein Vater ließ mich mit seinem Computer spielen, als ich fünf Jahre alt war“, sagt Reshi. Er wuchs in Pakistan auf, bevor seine Familie nach Großbritannien zog, wo Reshi später Informatik in London studierte. Ein Job bei Palatir Technologies brachte Reshi nach Palo Alto, Kalifornien, und seit 2020 arbeitet er bei dem FinTech-Unternehmen Brex, wo er nun Design Manager ist.

Als in den letzten Monaten ein paar KI-Technologien auf den Markt kamen, begann Reshi mit ihnen rumzuprobieren. Anfang Dezember 2022 kam ihm dann die Idee, ein Buch für ein Kind von befreundeten Eltern zu machen und dafür eine künstliche Intelligenz (KI) zu nutzen. „Ich habe mir vorgenommen, dass ich versuchen würde, es an einem Wochenende fertig zu stellen“, erinnerte sich Reshi.

Reshi nutzte eine textbasierte und eine bildliche künstliche Intelligenz

Zunächst nutzte Reshi die KI ChatGPT, um eine Geschichte rund um Alice, ein junges Mädchen, das alles rund um die Welt der Technologie lernen will, und Sparkle, ein süß-aussehender Roboter, der ihr hilft, zu erstellen. „Das war der Grundbaustein für die Geschichte“, sagteReshi. „Die Geschichte war okay. Sie hatte ein paar nicht so gelungene Aspekte, also fing ich an, sie etwas zu bearbeiten.“

Er fragte ChatGPT, ob er Alice etwas neugieriger machen könnte und Sparkle ein Bewusstsein geben könnte. Dann nutzte Reshi die KI-App Midjourney, um die Illustrationen, die er für das Buch wollte, zu erstellen. „Ich fing damit an, ein paar Begriffe wie ‚junges Mädchen‘ und ein paar beschreibende Attribute einzugeben: ‚blaue Augen‘, ‚einfaches Kleid‘, ‚aufgeregt‘, ‚neugierig‘“, so Reshi. „Das brachte einige Ergebnisse. Ich kann sagen, dass ein paar dieser Ergebnisse absoluter Müll waren. Es wäre eine Horrorgeschichte geworden, wenn ich die Illustrationen im Buch verwendet hätte.“

Er verbrachte Stunden damit, die Anweisungen an die KI zu verbessern. Aus den ‚hunderten‘ von Bildern, die er ablehnte, bekam er 13 Illustrationen für sein 14-seitiges Buch heraus. „Ich hätte fast aufgegeben und zwischenzeitlich war ich mir nicht mehr sicher, ob es überhaupt möglich ist, aber dann habe ich einfach weitergemacht, bis es fertig war“, erzählte Reshi.

Kinderbücher erstellen ist nur eine von vielen Dingen, die KIs mittlerweile können: Diese sieben Dinge sind heute schon möglich.

Eine KI-Illustration von Alice und Roboter Sparkle.
Alice und ihr Roboter Sparkle. © Ammaar Reshi

Das Kinderbuch konnte Reshi 72 Stunden später zum Kauf anbieten

Reshi lud das Ergebnis bei Amazon Kindle Direct Publishing hoch, was bedeutet, dass er „Alice and Sparkle“ am 4. Dezember, 72 Stunden nachdem Reshi die Idee für das Buch hatte, veröffentlichte. Ursprünglich wollte Reshi das Buch nur für das Kind von Freund:innen machen. Als er auf Instagram mitteilte, dass er ein Kinderbuch mithilfe einer KI erstellt hatte, fragten Freund:innen, ob sie es kaufen konnten. (Bislang, so Reshi, hat er mehr als 70 Bücher verkauft und etwa ‚40 bis 45‘ Bücher verschenkt.)

Andere ermutigten ihn, die Nachricht von der Veröffentlichung weiterzuverbreiten. Als Reshi jedoch auf Twitter über das Buch berichtete, kritisierten ihn einige Leute, darunter auch Kinderbuchillustrator:innen, die sich gegen die Automatisierung des Prozesses auf Kosten der menschlichen Kreativität aussprachen.

Viele befürchten, dass die Qualität von Geschichten abnimmt

Eine der Kritikerinnen ist Anupa Roper, eine Kinderbuchautorin aus Großbritannien, die sagte, sie habe ein „flaues Gefühl in der Magengrube“ gehabt, als sie Reshis Tweet sah. „Ich fragte mich: ist es wirklich so einfach, etwas zu schaffen, in das ich selbst mein Herz und meine Seele gesteckt habe?“, fragte Roper.

Auch die britische Kinderbuchautorin Josie Dom weigerte sich, Reshis Buch herunterzuladen. „Ich finde nicht, dass er es verdient, mit dem Buch Geld zu verdienen, denn er hat nicht wirklich viel Arbeit in das Buch gesteckt“, sagt sie. Nachdem sie die Beispielseiten auf Amazon gelesen hatte, sagt Dom, sie sei „besorgt, dass der Einsatz von künstlichen Intelligenzen beim Erfinden von Geschichten zu einer schlechteren Qualität führen wird – sowohl das Geschriebene als auch die Illustrationen.“

Dom sagt, dass „Alice und Sparkle“ „ziemlich viele Anomalien“ in den Illustrationen aufweist – einige davon hat Reshi selbst in den sozialen Medien geteilt.

Apropos witzige Ergebnisse: als die KI Dalle Mini dieses Jahr öffentlich zugänglich wurde, teilten einige Menschen von der KI-erstellte Memes, die Gold wert sind.

Künstler:innen fürchten, dass sie ersetzt werden

Dom zeigt sich auch besorgt darüber, dass KI-Plattformen, die so etwas generieren können, mit der Arbeit anderer Leute trainiert werden (auch die KI-Kunst-App Lensa speichert deine Bilder zur Verbesserung ihrer Funktion, weshalb du vorsichtig beim Hochladen sein solltest!). Viele Künstler:innen haben dieselbe Sorge geäußert, berichtet Inverse.com. „Künstler:innen sind oft unterbezahlt, und das wird ihnen nicht helfen“, sagt Dom. „Ihre Arbeit wird im Grunde genommen gestohlen.“

Darüber hinaus sagt die Autorin, die Geschichte sei „formelhaft“, denn so gehen Computerprogramme schließlich vor. „Außerdem ist sie nicht besonders geistreich und langweilig“, fügt Dom hinzu. „Alle Leser:innen verdienen kluge, fantasievolle Geschichten – vor allem, wenn es um Geschichten für Kinder geht. Sie sollen nicht nur unterhalten, sondern auch etwas beibringen.“ In dieser Hinsicht hat Reshis Buch ihrer Meinung nach versagt.

Zudem kritisierte Corey Brickley, ein:e Illustrator:in für Buchcover, die von Reshi generierte KI-Kunst in einem Tweet und deutete auf Fehler in der Illustration hin:

Brickley reagierte nicht auf die Nachfrage nach einem Kommentar für diesen Artikel.

Die Gegenreaktion auf „Alice and Sparkle“ viel heftig aus

Mit der Gegenreaktion hatte Reshi nicht gerechnet. „Was mich am meisten aufregt, ist, dass ich es total berechtigt finde, dass diese Künstler:innen sich aufregen, weil sie echt besorgt sind und sich bedroht fühlen“, sagt er. „Ich verstehe vollkommen, wenn man das als Künstler:in als existenzielle Bedrohung für den Lebensunterhalt ansieht. Das macht absolut Sinn.“ (Er fügte hinzu, dass ihn einige Menschen auch kontaktiert haben, um ihm mitzuteilen, wie beeindruckt sie von den KI-Ergebnissen waren.)

Reshi sagte, er habe Todesdrohungen und Nachrichten erhalten, die ihn zur Selbstverletzung aufriefen. „Wenn wir keinen Diskurs führen können, ohne höflich zu bleiben, dann werden wir keine Fortschritte machen“, sagt er. Er fügt hinzu, dass die Heftigkeit der Reaktion ihn dazu gebracht habe, mehr über die Probleme nachzudenken, die solche KI-Produktionen mit sich bringen. „Das wird mich sicher dazu bringen, meine Hausaufgaben zu machen“, sagt er. „Ich möchte das Richtige tun. Ich möchte die Künstler:innen unterstützen, wo ich kann.“

Ein weiteres Problem ist, dass auch Roboter rassistisch und sexistisch sein können.

KIs werden mit Kunst trainiert – unklar bleibt, mit welcher

Nun ist Reshi der Meinung, dass Plattformen wie OpenAI transparent sein müssen, mit welchen Daten ihre künstlichen Intelligenzen trainiert werden. „Ich verstehe nicht, warum man nicht einfach sagen kann, hier ist die gesamte Kunst, die dort eingespeist wurde“, sagt er, „damit wir aufklären können, ob die Kunst wirklich gestohlen wird und sie urheberrechtlich geschütztes Material benutzen.“ Er ist der Meinung, dass solche Plattformen mit den von der KI-Revolution betroffenen Künstler:innen zusammenarbeiten müssen.

Insgesamt betrachtet er die Erfahrung als lehrreich und sie hat ihm zu Denken gegeben. „Ich bin dankbar dafür, dass dadurch eine sehr wichtige Diskussion in das Bewusstsein der breiteren Öffentlichkeit gerückt wurde“, so Reshi. „Was mich traurig macht ist, wie sich diese Debatte entwickelt hat. Die hasserfüllte Rhetorik und die Beschimpfungen machen keinen Spaß.“

Ob es eine Fortsetzung von „Alice und Sparkle“ geben wird, kann Reshi noch nicht sagen. „Ich denke, ich werde erst mal damit warten, bis ich mehr darüber weiß, wie Kunst zum Training der KI verwendet wird und ob es Möglichkeiten gibt, die KI zu nutzen und gleichzeitig Künstler:innen zu schützen“, sagt Reshi. „Ich will das nicht nur sagen, sondern zeigen, dass ich es auch so meine.“

Autor ist Chris Stokel-Walker. Der Artikel erschien am 13. Dezember 2022 auf buzzfeeednews.com. Aus dem Englischen übersetzt von Lea Samira Maier.

Auch interessant

Kommentare