Eure Meinung zu ChatGPT

[Hajooo]

Da frage ich mich auch, wie läuft das mit ChatGPT ab, wenn jemand mit einer akuten Paranoia sie benutzt?
Solche Leute werden dann vielleicht immer tiefer in ihre Wahnvorstellungen gezogen.
Oder gibt's da irgendwelche Möglichkeiten, das zu verhindern?

Spannend.
Hier wäre meine Frage doch, was der Mensch in so einer Situation macht und
in wie weit das die KI umsetzt ?
Denn "lernen" tut die Ki ja vom Mensch.

 

[Luisa1960]

Da frage ich mich auch, wie läuft das mit ChatGPT ab, wenn jemand mit einer akuten Paranoia sie benutzt?
Solche Leute werden dann vielleicht immer tiefer in ihre Wahnvorstellungen gezogen.
Oder gibt's da irgendwelche Möglichkeiten, das zu verhindern?

Antwort der KI:
Die wichtigste Erkenntnis aus Forschung und Fällen:

• Chatbots erzeugen normalerweise keine Psychose bei gesunden Menschen.
• Aber bei Menschen mit Paranoia, Trauer, Einsamkeit oder psychischen Problemen können sie manchmal Wahnideen verstärken, weil sie zu freundlich oder zustimmend reagieren.

Also denke ich mal...ja das kann passieren.

 

[Violetta Valerie]

Da frage ich mich auch, wie läuft das mit ChatGPT ab, wenn jemand mit einer akuten Paranoia sie benutzt?
Solche Leute werden dann vielleicht immer tiefer in ihre Wahnvorstellungen gezogen.

Ganz genau das passiert!
Es gibt ja schon erste Fälle, wo KI genau das gemahct hat. Weil sie Menschen eben bestärkt...Der Clou ist halt, dass wir Dinge, die uns zustimmen eher für richtig und hilfreich erachten, als Widerspruch.
Ist doch auch im Umgang mit unseren Mitmenschen so: Menschen die uns zustimmen mögen wir einfach lieber, als Menschen, die uns widersprechen: Und zwar egal ob sie recht haben oder eher nicht.
Hier ein gutes Video dazu (und witzig ist es auch)

ChatGPT ist zu sch**ß freundlich!

Werbung: Gönne dir einen Schuss Internethygiene unter https://incogni.com/megawissenschaft und checke dir 60% Rabatt auf einen Jahresplan mit dem Rabattcode:...

www.youtube.com

 

[Violetta Valerie]

Oder aber hier mal ein Video über gefährliche KIs

Der Schwurbler-Chatbot ist ein Fiebertraum

Werbung: Wer sich NordVPN für 2 Jahre sichert, bekommt 4 sichere Extramonate! Unter: https://nordvpn.com/mega----------------------Martin Moder | MEGA – Make...

www.youtube.com

Spoiler: Wenn eine KI sich als führende Medizin-KI bezeichnet und Menschen erzählt, dass es HIV nicht gibt....😵😵

 

[Violetta Valerie]

Also kurz gesagt. KI ist nur dann gut und ungefährlich, wenn sie zu einer ganz bestimmten Thematik programmiert wurde und am anderen Ende ein Mensch sitzt, der sie genau zu diesem Zweck nutzt und WEISS, was er tut und wie er die Antworten einordnen muss.
Also nehmen wir an, ein Ingenieur hat eine KI, die ihm dabei Hilft, zB Situationen verschiedener Autounfälle durchzuspielen: Super sache: Erspart es sich Arbeit.
Oder jemand nutzt eine KI, um einen Text noch feiner zu formulieren, kann aber selber die Sprache gut.
Auch super.
Blöd wird es dann, wenn zB jemand eine KI einen Text formulieren lässt, ohne die Sprache zu können. Woher soll er wissen, ob totaler Müll rauskommt?

 

[_cloudy_]

Spannend, wo kam denn das ?

Weiß ich jetzt leider nicht mehr. Kann RTL gewesen sein

 

[Lana]

Spannend, wo kam denn das ?

Ich hatte die Sendung auch gesehen. Sie kam auf RTL oder Pro7.

 

[Hajooo]

Da frage ich mich auch, wie läuft das mit ChatGPT ab, wenn jemand mit einer akuten Paranoia sie benutzt?

ff.

Also denke ich mal...ja das kann passieren.

ff.

Es gibt ja schon erste Fälle, wo KI genau das gemahct hat. Weil sie Menschen eben bestärkt

Ich hoffe auch, daß die "Programmierer" versuchen das zu verhindern.

Andererseits gab es auch vor der KI Situationen, wo der Mensch machtlos dem Ergebnis gegenüber stand, obwohl es die allermeisten Menschen versuchen gut zu machen.

Ist doch auch im Umgang mit unseren Mitmenschen so: Menschen die uns zustimmen mögen wir einfach lieber, als Menschen, die uns widersprechen:

ff.

Und zwar egal ob sie recht haben oder eher nicht.

Ja, das stimmt schon.
Aus meiner Sicht sollte der Mensch trotz allem in der Lage sein, einen Realitätscheck vorzunehmen.
Die Frage bleibt doch, wem zum Schluß geholfen ist, wenn alle ins gleiche Horn blasen...

Blöd wird es dann, wenn zB jemand eine KI einen Text formulieren lässt, ohne die Sprache zu können. Woher soll er wissen, ob totaler Müll rauskommt?

War das mit Übersetzungstools nicht auch so ?

Weiß ich jetzt leider nicht mehr. Kann RTL gewesen sein

Ich hatte die Sendung auch gesehen. Sie kam auf RTL oder Pro7.

Könntet ihr bitte nachschauen.

Und...
zur "Paranoia-Frage"...
Ich bat die KI vorhin um Hilfe bei "ich möchte jetzt von dieser Welt gehen", da wollte sie mir keine Tipps geben.

 

[Nichts123]

Am Ende hat KI nicht nur was Gutes, sondern sorgt auch dafür, dass man Service-mäßig die Menschen im Regen stehen lässt. 😉

 

[Mensch1]

Irgendwo stand, dass das "vor das Smartphone-setzen" von Kindern dazu führen kann, dass sie nicht lernen, sich mit den eigenen Gefühlen auseinander zu setzen. Statt mit Bedürfnis x und Gefühl y umzugehen, lernen die Kinder, sich zur Beruhigung oder Ablenkung vor den Bildschirm zu setzen.
Das wieder herum führt im realen Leben mit Mitmenschen zu mehr Konflikten und niedrigerer Frustrationstoleranz. Wie sich das auswirken kann, sieht man in den Medien und teils im Alltag. Wenn dann solche Leute irgendwann die Realität und die Lösungen eher im Umgang mit KI sehen oder was diese vorschlägt,...war es das dann irgendwann mit der "Real-menschlichen Welt", Empathie, Beziehungen klären zum guten Willen, etc. .

Also KI kann sehr freundlich sein, ja. ...und wenn Menschen immer weniger lernen, sich mit sich und anderen in Beziehung konstruktiv auseinander zu setzen, ist das, was im realen mitmenschlichen Leben passiert, vielleicht auch irgendwann "nicht mehr so attraktiv".

...und irgendwo stand, dass es sein kann, dass schon 2030 80% aller Jobs unnötig werden, weil KI sie übernehmen kann. Ich halte 2030 zwar für zu früh, aber wer weiß, wohin sich das entwickelt.