Natürlich muss man ihr Ethik beibringen.... Aber ich geh ja davon aus, das man das schafft und eine menschlich-vernünftige Ethik des Westens benutzt... Das mit dem beibringen der Ethik geht aber nur dann, solange es ein sog. "soft-take off" wird. Das heißt wenn sich die KI über Jahrzehnte langsam und stetig der menschlichen Intelligenz annähert und sie dann übersteigt. Das ist das Szenario von Kurzweil. Also zwischen 2030 und 2050.
Das andere Szenario ist "hard take-off". Das heißt an einem beliebigen Zeitpunkt in der Zukunft - aber grenzen wir mal zu Kurzweil ein - also 2050. Also an dem beliebigen Zeitpunkt: Morgen oder in 15 Jahren oder in 3 Monate usw. An dem Zeitpunkt wird eine KI erschaffen... Diese KI versteht sich selbst und ist in der Lage, ihren eigenen Software-Code umzuschreiben und zu verbessern. Das geschieht dann ganz oft in kurzer Zeit und dann haben wir es....Da können wir ihr nichts beibringen - und einfach nur hoffen - aber ich bin ja optimist!🙂
Das ist das Szenario von Peter Voss, Ben Groetzel, Hans Moraves usw.
(Die meisten von denen arbeiten grad dran bei Novamente)
Kurz: Die Erschaffung einer "friendly AI". Dazu wurde auch das Singularity Institute gegründet.
