Take Away: Zwei frei erfundene Forschungstexte genügten, damit Chatbots eine nicht existierende Krankheit wie gesichertes Gesundheitswissen behandelten. Besonders brisant ist, dass diese erfundene Krankheit später sogar in einem medizinischen Fachartikel auftauchte, der vor der Veröffentlichung von anderen Fachleuten geprüft worden war. Der Artikel wurde später zurückgezogen.
Die verbreitete Annahme lautet: Offensichtlicher Unsinn müsste in der Wissenschaft rasch auffallen. Der Fall „Bixonimania“ zeigt jedoch, wie brüchig diese Hoffnung sein kann. Forschende erfanden die Krankheit bewusst und beobachteten, wie Chatbots sie kurz darauf als reales Leiden beschrieben, mit Symptomen, Ursachen und Ratschlägen für Betroffene.
Ausgangspunkt waren zwei bewusst gefälschte Manuskripte, die 2024 auf Preprints.org erschienen. Solche Texte sind frühe Forschungsfassungen, die noch nicht von unabhängigen Fachleuten geprüft wurden. Am 10. April 2026 wurden beide wieder entfernt. Die Plattform erklärte ausdrücklich, es handle sich um erfundene und nicht authentische Inhalte, die keine gültige Forschung darstellten.
Damit endete der Irrtum aber nicht. In einem medizinischen Fachartikel wurde „Bixonimania“ später als aufkommende Form eines Augenleidens erwähnt. Das ist der eigentlich verstörende Punkt dieses Falls: Eine frei erfundene Krankheit blieb nicht bei Chatbots hängen, sondern wanderte weiter in einen Text, der vor der Veröffentlichung wissenschaftlich begutachtet worden war. Erst später wurde auch dieser Artikel zurückgezogen.
Der Fall ist deshalb mehr als eine kuriose Anekdote über Künstliche Intelligenz. Er zeigt, wie rasch etwas glaubwürdig wirken kann, sobald es den Anschein wissenschaftlicher Form annimmt. Gerade bei Gesundheitsthemen ist das heikel. Nicht alles, was fachlich klingt, sauber formuliert ist oder in einem wissenschaftlichen Layout erscheint, ist deshalb schon verlässliches Wissen.
Quelle:
- Stokel-Walker, C. (April 2026): Scientists invented a fake disease. AI told people it was real. Nature, 652, 559–561. DOI: 10.1038/d41586-026–01100‑y. Ergänzend: Rückzugsvermerke zu den beiden Bixonimania-Manuskripten auf Preprints.org sowie Retraktionshinweis bei Cureus. https://www.nature.com/articles/d41586-026–01100‑y
