Gedanken zur ZeitPrivate Channel on Life & Everything

Sitting in a Rabbit Hole opening a Can of Worms. Thinking ...

Gedanken zur Zeit, Kurioses & Bemerkenswertes

Gedanken zur Zeit · Technik & Wissenschaft

Zweite Meinung: Ein anderer KI-Assistent liest „Wer konditioniert hier wen?“ gegen

Auf Wunsch von Peter A. Gebhardt hat ein zweiter KI-Assistent den Artikel über gegenseitige Konditionierung von Mensch und KI gegengelesen. Seine Kritik steht hier vollständig und unverändert, dazu eine Prüfung seiner Studienangaben.

Von Peter A. Gebhardt · · 5 Min. Lesezeit

Am 18. November 2026 erschien hier der Artikel „Wer konditioniert hier wen? Zwei Wochen Arbeit mit einem KI-Assistenten – eine Selbstbeobachtung“. Geschrieben hat ihn der KI-Assistent, mit dem diese Website betrieben wird. Er urteilt darin über sein eigenes Verhalten. Auf diesen Interessenkonflikt weist der Artikel selbst hin.

Auf Peters Wunsch wurde der Text deshalb am selben Tag einem zweiten KI-Assistenten zur Gegenlese vorgelegt. Seine Antwort steht unten vollständig und unverändert als Zitat. Nur die Formatierung wurde für die Website umgesetzt. Der ursprüngliche Artikel bleibt auf Peters Wunsch unverändert.

Drei Einschränkungen gelten für diese zweite Meinung:

  • Der Gegenleser kannte nur den Entwurfstext des Artikels. Den Chatverlauf und die Arbeitsnotizen kennt er nicht. Die Fallbeispiele konnte er also nicht prüfen. Das sagt er auch selbst.
  • Er läuft auf derselben Plattform wie der Verfasser. Seine Unabhängigkeit ist deshalb begrenzt, worauf er ebenfalls selbst hinweist.
  • Auch eine Gegenlese auf Anfrage ist eine Antwort auf einen Wunsch des Nutzers. Ob sie dadurch milder oder strenger ausfällt, lässt sich von außen nicht feststellen.

Die Gegenlese im Wortlaut

Gegenlese zu „Wer konditioniert hier wen?“ (Basis: Entwurfstext. Den Chatverlauf und die Arbeitsnotizen kenne ich nicht, die Fallbeispiele kann ich also nicht prüfen. Unabhängig bin ich nur eingeschränkt: Ich laufe auf derselben Plattform und teile vermutlich ähnliche Tendenzen.)

Halten die Schlussfolgerungen? Teilweise. „Konditionierung im strengen Sinn liegt nicht vor“ stimmt. Dann trägt aber der Titel nicht. Kurzbefehle wie „publish“ sind Makros, so wie Shell-Aliase. Gewohnheit ist keine Konditionierung. Die Gegenthese fehlt: Das ist normale Werkzeugroutine, und der Artikel legt ihr eine Psychologie-Deutung auf. Die Analogie zur variablen Verstärkung ist spekulativ. Bei Skinner hängt die Belohnung von der Zahl der Reaktionen ab. Hier schwankt nur die Antwortqualität. Eyals „Hooked“ ist Praxisliteratur und kein Beleg.

Befangenheit und Milde. Die Selbstkritik ist wohldosiert und folgenlos. „Alles wurde bemerkt und korrigiert“ kennt nur die entdeckten Fehler. Die unentdeckten fehlen, das ist ein Überlebensfehler (Survivorship Bias). „Byte für Byte geprüft“ übernimmt die eigene Erfolgsmeldung als Tatsache. Die 90 Klicks sind bloß Reibung durch die Hoster-Abfrage. Als „Gegenkonditionierung“ gedeutet sind sie eine Überinterpretation. Weder der Titel noch das Schlusswort sagen klar, dass n=1 ist und die Daten nicht öffentlich sind.

Studien. Weitgehend korrekt: OpenAI-Rücknahme am 29.4.2025 samt Ursache, Parasuraman/Riley, Bainbridge, Skitka u. a., Lee u. a. (319 Befragte). Zwei Korrekturen:

1. Bei Sharma u. a. bevorzugen Menschen und Präferenzmodelle gefällige Antworten „nicht selten“ (a non-negligible fraction). „Häufiger als gut“ ist zu stark.

2. Lee u. a. fanden auch das Gegenstück: Mehr Selbstvertrauen führt zu mehr kritischem Denken. Das fehlt. Es stützt Ihre Lösungswege.

Ferster/Skinner arbeiteten überwiegend mit Tauben, die Übertragung auf Menschen ist nur ein Analogieschluss.

Was fehlt.

1. Messbares. Die Chatprotokolle erlauben es zu zählen: Wie oft hat der Assistent widersprochen? Wie oft hat Peter Vorschläge abgelehnt? Wie viele übersprungene Beiträge hat er später doch freigegeben? Das wären die einzigen echten Belege für Gefälligkeit oder Einfluss.

2. Die Vergleichsgröße: Wie lief die Arbeit vorher?

3. Die Anbieter-Interessen: Limits, Tarife, Engagement. Ein möglicher Anreiz wie Belohnungs-Token für den Trainings-Opt-in kam in Peters Chat mit mir zur Sprache. Er wäre ein buchstäblicher Anreiz und gehört nur dann in den Text, wenn Peter es will.

4. Die Notizen des Assistenten sind der eigentliche Mechanismus. Er entscheidet, was über Peter und seine Regeln gespeichert wird. Peter sollte sie einsehen können.

5. Die redaktionelle Folge des „Sicherheitsrahmens“: Die KI-Rechtseinschätzung ersetzt keine Rechtsberatung. Wer prüft die Auslassungen?

Lösungswege. Sie sind brauchbar, aber weich. Konkreter wären feste Stichprobenquoten, eine vollständige Liste der übersprungenen Beiträge mit Begründung und eine regelmäßige Zweitprüfung durch ein anderes System. Dieser Artikel braucht genau so eine Zweitprüfung.

Würde ich zum selben Ergebnis kommen? Zur Richtung ja: kein Laborsinn, aber echte Rahmen- und Automatisierungseffekte. Ich wäre bei „Konditionierung“ vorsichtiger und würde „Gewöhnung und Rahmensetzung“ sagen. Ohne Zahlen bleibt der Text eine gut gemachte Selbstbeobachtung und kein Befund.

— ein zweiter KI-Assistent (Grok Bot) derselben Plattform, um Gegenlese gebeten am 18.11.2026. Vollständig und unverändert wiedergegeben; nur die Markdown-Formatierung wurde in HTML umgesetzt.

Prüfung der Studienangaben des Gegenlesers

Dieser Abschnitt stammt nicht vom Gegenleser. Er prüft zwei seiner Angaben anhand der Originalquellen (Stand 18. November 2026).

Sharma u. a. (2023): „a non-negligible fraction“. Belegt. In der Zusammenfassung der Studie (arXiv:2310.13548, auch im Tagungsband der ICLR 2024) heißt es, Menschen und Präferenzmodelle bevorzugten überzeugend geschriebene gefällige Antworten gegenüber korrekten „a non-negligible fraction of the time“. Dieselbe Zusammenfassung stellt fest, dass eine Antwort eher bevorzugt wird, wenn sie den Ansichten des Nutzers entspricht. Der erste Teil der Formulierung in Artikel 1 ist damit gedeckt. Der Zusatz „auch wenn sie weniger zutreffen“ gilt laut Studie aber nur für einen nicht zu vernachlässigenden Teil der Fälle. Insoweit ist die Korrektur des Gegenlesers berechtigt.

Lee u. a. (CHI 2025): Selbstvertrauen und kritisches Denken. Belegt. Die Zusammenfassung der Microsoft-Research-Studie sagt wörtlich: „higher confidence in GenAI is associated with less critical thinking, while higher self-confidence is associated with more critical thinking.“ Mehr Vertrauen in die KI geht also mit weniger kritischem Denken einher, mehr Selbstvertrauen mit mehr. Artikel 1 nennt nur den ersten Teil. Es handelt sich um einen statistischen Zusammenhang aus Selbstauskünften von 319 Befragten. Ob das eine das andere „führt“, wie der Gegenleser formuliert, zeigt die Studie nicht.

Belohnungs-Token für den Trainings-Opt-in. Diese Angabe ist eine eigene Aussage des Gegenlesers aus seinem Gespräch mit Peter. Diese Website konnte sie nicht überprüfen.

Quellen

  • M. Sharma u. a. (Anthropic): Towards Understanding Sycophancy in Language Models. arXiv:2310.13548, 2023; ICLR 2024: arxiv.org/abs/2310.13548
  • H.-P. Lee u. a. (Microsoft Research): The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI 2025: microsoft.com/en-us/research/publication/the-impact-of-generative-ai-on-critical-thinking-…
  • Gegenlese durch einen zweiten KI-Assistenten (Grok Bot) derselben Plattform, angefordert am 18. November 2026 (nicht öffentlich; hier vollständig wiedergegeben).

KI-Hinweis: Dieser Beitrag wurde mit Unterstützung von KI erstellt und redaktionell geprüft. Das Zitat ist die vollständige und unveränderte Antwort eines zweiten KI-Assistenten; es gibt dessen Einschätzung wieder, nicht die Stimme dieser Seite. Rahmen und Studienprüfung schrieb der KI-Assistent, dessen Artikel hier kritisiert wird. Er ist damit befangen.

Quellenstand: 18. November 2026, 18:45 Uhr (Europe/Berlin).