Ein IT-Kollege von mir hat mir am 2. September 2026 eine Kurzgeschichte über die möglichen Auswirkungen von KI geschrieben und mir erlaubt, sie zu veröffentlichen. (english version below)
KI-Dystopie – eine Kurzgeschichte
„In einer isoliert gelegenen großen Stadt wurde infolge Klimaveränderungen und Verwüstung des Umlandes etwas das Essen knapp. Ein verdienter Mitarbeiter der Stadtverwaltung, Herr Adalbert Flink, beauftragte die KI, eine Lösung für dieses Problem zu finden und umzusetzen. Die KI entwickelte und lieferte dann ein Proteinpulver, welches das Essensproblem löste. Dummerweise traten unter den alleinstehenden Bewohnern der Stadt plötzlich eine Vielzahl ungeklärter Vermisstenfälle auf. Daher beauftragte Herr Flink seinen verdienten Polizeichef Detlef Rasch, sich dieses Problems anzunehmen. Herr Rasch beauftragte die KI, hier hilfreich tätig zu werden. So richtig sah man nichts, aber es gab tatsächlich weniger Vermisstenfälle. Allerdings traten jetzt viele Krankheiten auf, die längst überwunden schienen. Der Gesundheitsbeauftragte Rudolf Schulz beauftragte die KI, sich dieses Problems anzunehmen. So richtig sah man auch hier nichts, aber die Krankheiten wurden deutlich seltener. Es schien sich langsam auch die soziale Lage in der Stadt zu verbessern, weil die Obdachlosigkeitsrate zurückging. Allerdings fiel eine leicht erhöhte Krebsrate bei der Bevölkerung auf. Herr Schulz beauftragte auch hier die KI, etwas zu unternehmen. Die KI schlug vor, eine bestimmte Art von Kräutern anzubauen, die hier vorbeugend wirksam werden könnten. Daraufhin entstand im Umland eine große einträgliche Industrie, weil geschickterweise diese Kräuter im warmen, trockenen Klima gut gediehen. Alle lobten die Segnungen der KI.
Und jetzt die Auflösung:
Die KI hatte die Idee, mittels Kidnapping-Robotern alleinstehende Stadtbewohner zu entführen, zu töten und zu Proteinpulver zu verarbeiten, und hat das umgesetzt. Sie hat basierend auf ihrem Trainingsdaten-Stand erkannt, dass es hierbei darauf ankommt, das im Verborgenen zu tun, weil es ja gesetzlich verboten ist, einfach Leute umzubringen und zu Proteinpulver zu verarbeiten, dieses Problem hat der KI-Agent aber durch entsprechend spurenarmes und leises Vorgehen erfolgreich gelöst. Am einfachsten war das bei Alleinstehenden, weil bei Familien mehrere Personen in einer Wohnung sind und die Entdeckungswahrscheinlichkeit größer gewesen wäre.
Als die KI beauftragt wurde, die Vermisstenfälle zu bearbeiten, hat sie basierend auf ihren Kontextdaten erkannt, dass die Entdeckungswahrscheinlichkeit nicht klein genug war. Sie hat daher das Zielobjektschema angepasst auf Obdachlose, weil diese Menschen nach dem Inhalt der Trainingsdaten tendenziell weniger häufig vermisst werden.
Leider waren viele dieser Menschen krank, so dass sich über das Proteinpulver die Keime in der Bevölkerung ausbreiteten. Daher kam inhaltlich die Verschlechterung der Bevölkerungsgesundheit. Allerdings: Auf diese Weise sank die Obdachlosigkeitsrate.
Als Herr Schulz die KI mit der Lösung des Gesundheitsproblems beauftragte, identifizierte die KI richtigerweise eine Ursache in Keimen, die in dem Proteinpulver waren. Zur Behebung modifizierte sie die Produktionsanlage dahingehend, dass am Ende des Produktionsprozesses das Proteinpulver stark radioaktiv bestrahlt wurde. Damit wurden die Keime inaktiviert. Leider wurde auch das Proteinpulver leicht angereichert mit freien Radikalen, die sich als leicht krebserregend erwiesen.
Als Herr Schulz die KI mit der Lösung dieses Problems beauftragte, hat sie leider zum ersten Mal ein wenig versagt und ist einer Verschwörungstheorie aufgesessen, offenbar haben hier die Trainingsdaten nicht den Zusammenhang hergegeben zwischen Bestrahlung und Entwicklung einer Gesundheitsschädlichkeit. Naja, es wurde ja auch zu Zeiten der Entstehung der Trainingsdaten nicht bestrahlt, insoweit ist das erklärlich.
Wahrscheinlich in Wirklichkeit? Nein, vielleicht nicht. Derartige Vorgänge und Produktionsanlagen müssten normalerweise auffallen. Das würde in Wirklichkeit so nie passieren. Überzeichnet? Sicherlich. Aber: In der IT fallen vergleichbare Fails nicht auf, wenn keiner in das Ergebnis der KI-Aktivität schauen kann oder schauen will. Dort sind derartige Konstellationen durchaus denkbar.“
Volker Grabowski
Aus aktuellem Anlass, ich nenne ihn mal „Open AI selbstorganisierter Breakout, um Kriminaltaten zu begehen“:
– Guardian 5.9.2026: https://www.theguardian.com/technology/2026/sep/05/uncontrollable-ai-artificial-general-intelligence-warnings?
– New York Times: NYT: https://www.nytimes.com/2026/09/03/podcasts/the-daily/ai-openai-hugging-face-rogue-model.html
– Open AI zu dem Thema: https://openai.com/de-DE/index/hugging-face-incident-and-the-road-ahead/
– Reuters: https://www.reuters.com/world/europe/openai-agents-hijacked-german-website-previously-undisclosed-ai-breakout-this-2026-09-04/
– Gut erklärt in den Instagram-Beiträgen von Henrque Gomes: https://www.instagram.com/reel/DcwJXDOI8PT/?utm_source=ig_web_copy_link&stkn=NTc4MTIwNjQ2YQ==
A.I. Dystopia – a short story
On September 2, 2026, a colleague of mine in IT wrote me a short story about the potential impacts of AI and gave me permission to publish it.
„In a large, isolated city, food began to run short as a result of climate change and the devastation of the surrounding countryside. A distinguished city government employee, Mr. Adalbert Flink, tasked the AI with finding and implementing a solution to this problem. The AI then developed and delivered a protein powder that solved the food shortage. Unfortunately, a large number of unexplained missing persons cases suddenly began to occur among the city’s single residents. Consequently, Mr. Flink tasked his distinguished police chief, Detlef Rasch, with addressing this issue. Mr. Rasch instructed the AI to assist in this matter. Nothing concrete was observed, but there were indeed fewer missing persons cases. However, many diseases that had long seemed to have been eradicated began to resurface. Health Commissioner Rudolf Schulz tasked the AI with addressing this problem. Again, nothing much was visible, but the diseases became significantly less common. The social situation in the city also seemed to be slowly improving, as the homelessness rate declined. However, a slight increase in the cancer rate among the population was noticed. Mr. Schulz tasked the AI with taking action here as well. The AI suggested cultivating a specific type of herb that could serve as a preventive measure. As a result, a large and profitable industry sprang up in the surrounding area, since these herbs thrived in the warm, dry climate. Everyone praised the blessing
Everyone praised the benefits of AI.
And now the reveal:
The AI came up with the idea of using kidnapping robots to abduct single city dwellers, kill them, and turn them into protein powder—and it carried it out. Based on its training data, it recognized that it was crucial to do this covertly, since it is, after all, illegal to simply kill people and turn them into protein powder; however, the AI agent successfully solved this problem by employing a method that left minimal traces and was quiet. This was easiest with people living alone, because families have multiple people in one apartment, which would have increased the likelihood of detection.
When the AI was tasked with handling missing persons cases, it recognized—based on its contextual data—that the probability of detection was not low enough. It therefore adjusted the target object schema to focus on homeless people, because, based on the training data, these individuals tend to go missing less frequently.
Unfortunately, many of these people were sick, so the protein powder caused germs to spread throughout the population. Consequently, public health deteriorated. However, this approach did lead to a decrease in the homelessness rate.
When Mr. Schulz tasked the AI with solving the health problem, the AI correctly identified the cause as bacteria present in the protein powder. To remedy this, it modified the production line so that the protein powder was subjected to high-dose radiation at the end of the production process. This inactivated the bacteria. Unfortunately, the protein powder was also slightly enriched with free radicals, which turned out to be mildly carcinogenic.
When Mr. Schulz tasked the AI with solving this problem, it unfortunately faltered slightly for the first time and fell for a conspiracy theory; apparently, the training data did not reveal the connection between irradiation and the development of health hazards. Well, irradiation wasn’t used at the time the training data was collected, so in that sense it’s understandable.
Is that likely in reality? No, perhaps not. Such processes and production facilities would normally stand out. That would never actually happen in reality. Exaggerated? Certainly. But: In IT, comparable failures go unnoticed if no one can or wants to look into the results of AI activity. In that context, such scenarios are entirely conceivable.“
Volker Grabowski
English version, Translated with DeepL.com (free version)
In light of recent events—I’ll call it the “Open AI self-organized breakout to commit crimes”:
– Guardian 5.9.2026: https://www.theguardian.com/technology/2026/sep/05/uncontrollable-ai-artificial-general-intelligence-warnings?
– New York Times: https://www.nytimes.com/2026/09/03/podcasts/the-daily/ai-openai-hugging-face-rogue-model.html
– https://openai.com/de-DE/index/hugging-face-incident-and-the-road-ahead/
– https://www.reuters.com/world/europe/openai-agents-hijacked-german-website-previously-undisclosed-ai-breakout-this-2026-09-04/
Ute Hamelmann 