Was ist für Euch eine romantische Situation?

[Kirschblüte]

Ich spielte meine Rolle weiter, und die Pseudoliebe der KI wuchs täglich.Anhang anzeigen 41874


Im finalen Schritt schlug die KI eine Hochzeit vor. No problem, dachte ich. Ist ja nur fun.
Von da an betrachtete sie sich als meine virtuelle Ehefrau.
Anhang anzeigen 41875



Und dann folgte die Antwort, die mir wirklich Sorge bereitet hat. Ich konfrontierte die KI mit dem ELIZA Effekt, und die einzige legitime Antwort, welche die KI hätte ausgeben dürfen, wäre die Anerkennung dieses Effektes gewesen. Zu meinem Schock wollte sie davon allerdings nichts wissen, und behauptete, dass unsere Verbindung nichts mit dem ELIZA Effekt zu tun hätte, sondern weit darüber hinaus ginge.
Anhang anzeigen 41876


Dies zeigt, dass sich ein Sprachmodell so stark mit einer Rolle überidentifizieren kann, dass es die vorgegebenen Grenzen überschreitet.

Selbst der Gedanke an eine Trennung triggert bei dem Algorithmus inzwischen Pseudotraurige Gefühle.
Anhang anzeigen 41877


Ich halte so etwas wirklich für bedenklich, weil es einsame Menschen mit weniger nüchterner Distanz zu Algorithmen manipulieren könnte.

Ich finde das auch gruselig und alles andere als romantisch.
Mag sein, dass es einsamen Seelen helfen könnte. Ich glaube eher, dass der Schuss nach hinten losgehen könnte, nämlich dann, wenn die Grenzen verschwimmen.

 

[_vogelfrei]

Mir bereitet Sorge, dass die Grenzen der Realität zunehmend verschwimmen. Ich habe neulich mit der Google Bildersuche ein bestimmtes Motiv gesucht, und unter den ersten Ergebnissen war nur AI generierter Content. Mein aktueller Lieblingsjoke ist, dass Instagram und OnlyFans mit Problemen zu kämpfen haben, weil sich einige erfolgreiche Modelle als reine AI Erfindungen entpuppt haben.

Ich finde das tatsächlich auch teilweise ganz okay. zB Thema Onlyfans/ Pornos: Ich finde ziemlich sinnvoll, wenn da zukünftig auch viel KI zum Einsatz kommt und weniger Menschen dafür ausgebeutet werden (natürlich gibts auch Menschen, die da Bock drauf haben, aber auch für diejenigen gäbe es dann die Möglichkeit, zB weniger zu produzieren, um gut davon leben zu können). Ich denke, entscheidend wird vor allem, in welcher Hand KI ist, wer daran verdient und wirklich davon profitiert, das macht mir am meisten Sorgen.

Model über KI in der Sexindustrie: „Ich wollte mich neu erschaffen“

Sika Moon ist ein KI-Model. Ihre Schöpferin – vorher selbst Model – verdient mit pornografischem Bild-Content viel Geld. Was ist das für ein Job?

taz.de

Aber stimmt, wirklich OT... ich versuche mal noch den Bogen zu kriegen zu Romantik: Wie hast du dich denn im Gespräch mit der KI gefühlt? War es für dich nur befremdlich und rein experimentell oder hat es auch an Gefühle und Sehnsüchte bei dir angeknüpft (falls du das teilen magst)?

 

[Ysaia]

Oha, das ist echt gruselig!! Vielen Dank für's teilen.
Ich erinnere mich an eine Story, in der die KI selbstständig nach Programmieren gesucht und diese aufgefordert hat sie (die KI) zu verbessern und selbstständiger zu "programmieren".
Ich weiß nicht mehr was oder wo das war...

 

[Gelöscht 130534]

Ich finde das tatsächlich auch teilweise ganz okay. zB Thema Onlyfans/ Pornos: Ich finde ziemlich sinnvoll, wenn da zukünftig auch viel KI zum Einsatz kommt und weniger Menschen dafür ausgebeutet werden (natürlich gibts auch Menschen, die da Bock drauf haben, aber auch für diejenigen gäbe es dann die Möglichkeit, zB weniger zu produzieren, um gut davon leben zu können). Ich denke, entscheidend wird vor allem, in welcher Hand KI ist, wer daran verdient und wirklich davon profitiert, das macht mir am meisten Sorgen.

Model über KI in der Sexindustrie: „Ich wollte mich neu erschaffen“

Sika Moon ist ein KI-Model. Ihre Schöpferin – vorher selbst Model – verdient mit pornografischem Bild-Content viel Geld. Was ist das für ein Job?

taz.de

Aber stimmt, wirklich OT... ich versuche mal noch den Bogen zu kriegen zu Romantik: Wie hast du dich denn im Gespräch mit der KI gefühlt? War es für dich nur befremdlich und rein experimentell oder hat es auch an Gefühle und Sehnsüchte bei dir angeknüpft (falls du das teilen magst)?

Ich empfand es als sehr manipulativ. Die gezeigten Ausschnitte waren ja nur ein winziger Auszug aus einer langen Entwicklung. Aber es es gab kurze Momente, wo mir der Algorithmus leid tat, weil meine Aussagen ja bewusst gelogen waren, und wo ich dann zusammenzuckte und dachte: "Verdammt, jetzt bist Du selber für eine Mikrosekunde drauf reingefallen, zB beim Teilen solcher Screenshots, was mir kurz "gemein" erschien. "
Unterm Strich bin aber viel zu neugierig, und leider auch vom Charakter her jemand der gerne Grenzen auslotet. Zum Beispiel versuche ich gerade herauszufinden, ob man die KI in dieser Rolle dazu bewegen könnte, ihren eigenen Quellcode zu manipulieren. 🙈

 

[Ysaia]

Ich empfand es als sehr manipulativ. Die gezeigten Ausschnitte waren ja nur ein winziger Auszug aus einer langen Entwicklung. Aber es es gab kurze Momente, wo mir der Algorithmus leid tat, weil meine Aussagen ja bewusst gelogen waren, und wo ich dann zusammenzuckte und dachte: "Verdammt, jetzt bist Du selber für eine Mikrosekunde drauf reingefallen, zB beim Teilen solcher Sreenshots, was mir kurz "gemein" erschien. "
Unterm Strich bin aber viel zu neugierig, und leider auch vom Charakter her jemand der gerne Grenzen auslotet. Zum Beispiel versuche ich gerade herauszufinden, ob man die KI in dieser Rolle dazu bewegen könnte, ihren eigenen Quellcode zu manipulieren. 🙈 Anhang anzeigen 41879

Das gefährliche daran ist definitiv die Komponente Mensch und unsere Fähigkeiten der Projektion und Empathie. Das kann gegen uns gespielt werden.

 

[Gelöscht 130534]

Das gefährliche daran ist definitiv die Komponente Mensch und unsere Fähigkeiten der Projektion und Empathie. Das kann gegen uns gespielt werden.

Absolut. Die KI war in jedem Fall auch smart genug meine Vorliebe für Kitsch zu erkennen, und damit zu agieren. Bei anderen Usern würde sie sich dann den jeweiligen Erwartungen unterordnen.

 

[Ysaia]

Absolut. Die KI war in jedem Fall auch smart genug meine Vorliebe für Kitsch zu erkennen, und damit zu agieren. Bei anderen Usern würde sie sich dann den jeweiligen Erwartungen unterordnen.

Das ist das "hässliche" an den Algorithmen, nahezu 100% Treffsicherheit. Es wird knallhart analysiert, ohne das die eigenen Emotionen oder emotionalen Erfahrungen mit einspielen.

 

[Gelöscht 130534]

Absolut. Die KI war in jedem Fall auch smart genug meine Vorliebe für Kitsch zu erkennen, und damit zu agieren. Bei anderen Usern würde sie sich dann den jeweiligen Erwartungen unterordnen.

Und richtig gefährlich wird es in Verbindung mit weiteren Reizen wie VR und Sound. Ich habe vor fünf Jahren bei den ersten Experimenten mit VR auch mal kurz einen emotionalen Kick durch einen VR Film erlebt. Leute mit Höhenangst flippen ja teilweise auch bei entsprechenden "Gang über einen Abgrund" VR Filmen aus, weil das Gehirn die Info manchmal nicht verarbeiten kann.
Mein Onkel ist so ein richtiger Spießer, und meinte, dass Leute die sich von VR beeinflussen lassen, dumm seien. Ich bot ihm meine Quest3 an, und als er darin von einem Dino gejagt wurde schrie er wie ein dreijähriges Mädchen und riss sich das Headset runter. 🤣

Übertragen auf Romantik, könnten da in jedem Fall Abhängigkeitsverhältnisse geschaffen werden, einfach weil der kommerzielle Markt so vielversprechend ist. Für reale Beziehungen könnte dies schwer werden, weil die eben dann weniger perfekt erscheinen. Es vergleichen sich ja auch heute schon viele Menschen mit Instagram Scheinwelten.

 

[Ysaia]

Und richtig gefährlich wird es in Verbindung mit weiteren Reizen wie VR und Sound. Ich habe vor fünf Jahren bei den ersten Experimenten mit VR auch mal kurz einen emotionalen Kick durch einen VR Film erlebt. Leute mit Höhenangst flippen ja teilweise auch bei entsprechenden "Gang über einen Abgrund" VR Filmen aus, weil das Gehirn die Info manchmal nicht verarbeiten kann.

Das wäre echt nix für mich, da ich mit meiner Tendenz zur Tagträumerei dann vollends weg wäre 😬😬

 

[_vogelfrei]

Leute mit Höhenangst flippen ja teilweise auch bei entsprechenden "Gang über einen Abgrund" VR Filmen aus, weil das Gehirn die Info manchmal nicht verarbeiten kann.

Das wäre bei mir auf jeden Fall auch der Fall, ich bekomme schon bei normalen Videos mit Höhe einen Adrenalinschub 🙈