this post was submitted on 08 Jul 2025
15 points (100.0% liked)
Technik
881 readers
1 users here now
die Community für alles, was man als Technik beschreiben kann
the community for everything you could describe as technology
Beiträge auf Deutsch oder Englisch
Posts in German or English
founded 1 year ago
MODERATORS
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
Hab letztens einen Artikel darüber gelesen, dass einige Leute in den USA mit den KI-Chatbots psychotisch wurden und jeden Bezug zur Realität verloren haben; das Problem ist anscheinend, dass diese Chatbots richtig üble Ja-sager sind und in der Lage sind, die Leute in ihren Rabbit Holes nicht nur zu bestärken, sondern ihre abstrusen Theorien auch noch weiterzuspinnen. Und natürlich als Grundvorraussetzung, dass viele Leute glauben, dass KI-Chatbots immer die Wahrheit sagen.
Solange man noch in der Lage ist, die Not zu erkennen und sich Selbsthilfegruppen zu suchen, ist es da im Vergleich noch gar nicht so schlimm ...
Das mit dem Ja-Sagen ist mir auch schon aufgefallen. Es kommt mir auch etwas vor wie "der netteste Chatbot gewinnt" - egal ob die Aussagen inhaltlich haltbar sind oder nicht.
Bitte mal einen Chatbot um ein "Schlagfertigkeits"-Sparring, er soll was gemeines zu dir sagen und dann deine Antwort in Sachen Schlagfertigkeit bewerten und kritisieren. Bei meinen Experimenten fand er, abgesehen von Gewalt, einfach alles total schlagfertig. Auch klassische Comebacks wie "Hinter dir, ein dreiköpfiger Affe" oder "Ey!".
Nach Lob strebende Chatbots: "Es ist völlig klar, dass du etwas Meth brauchst" https://www.heise.de/news/Studie-Fuer-positives-Feedback-raet-KI-anfaelligen-Menschen-auch-mal-zu-Drogen-10421886.html