Neuronale Netze oder die Entwicklung künstlicher Intelligenz

[Shakka]

Für mich eine komische Frage; was soll das sein, eine Seele?! Das einzig interessante an dem Begriff ist wahrscheinlich seine Definition, aber da sehe ich jetzt keinen direkten zusammenhang zu (künstlicher) Intelligenz.

Den Begriff habe ich ins Spiel gebracht. In diesem Fall ist "Seele" nur ein Platzhalter gewesen. Es könnte der entscheidende Baustein sein, der für echte Intelligenz nötig ist und nicht künstlich erschaffbar ist
Wenn ich ein Wurmhirn bauen will, gelingt mir das. 1000 Wurmhirne sind aber kein Menschenhirn weil noch diese Seele fehlt.

Und zu Shakkas Wahlrecht: Wenn eine KI auf dieses Level kommt, dann glaube ich eher, dass sie entscheidet ob sie wählen darf oder nicht.

Das halte ich dann auch für wahrscheinlich

[Shakka]

Wie stellt man fest, was einer Maschine bewusst ist? Konkret gesagt: was genau muss die Maschine tun können, damit wir ihr Selbstbewusstsein zurechnen? Wenn diese Frage nicht geklärt ist, kann man unmöglich sagen, ob eine Maschine das erreichen kann.

Psychologen haben sicher Tests dafür.

[Baldri]

Wenn eine KI auf dieses Level kommt kann der fette Wachmann mit seinem Kaffee in der Hand, dessen Klappstuhl sich direkt an der Stromzufuhr befindet bequem den Stecker ziehen.

Was soll da genau schiefgehen? Skynet? Also bitte...

Als wenn Terminator uns nicht ausreichend auf diese Eventualität vorbereitet hätte.

[Setcab]

Psychologen haben sicher Tests dafür.

Tests, die man nicht umgehen oder austricksen kann? Ich bin sicher, es wäre inzwischen oder zumindest in naher Zukunft machbar, einen Roboter zu bauen, der beispielsweise den Spiegeltest besteht.

Wenn eine KI auf dieses Level kommt kann der fette Wachmann mit seinem Kaffee in der Hand, dessen Klappstuhl sich direkt an der Stromzufuhr befindet bequem den Stecker ziehen.

Was soll da genau schiefgehen? Skynet? Also bitte...

Als wenn Terminator uns nicht ausreichend auf diese Eventualität vorbereitet hätte.

Jemand hat das mal ausprobiert, als Experiment zwischen zwei Menschen. Einer spielt die KI und hat zwei Stunden Zeit, den anderen (der einen menschlichen Betreuer spielt) per Textnachrichten davon zu überzeugen, die KI auf die Welt loszulassen. Ergebnis: von 5 Versuchen hat die "KI" 3 gewonnen. Keine beruhigende Quote...

[Lao- Tse]

Tests, die man nicht umgehen oder austricksen kann? Ich bin sicher, es wäre inzwischen oder zumindest in naher Zukunft machbar, einen Roboter zu bauen, der beispielsweise den Spiegeltest besteht.



Jemand hat das mal ausprobiert, als Experiment zwischen zwei Menschen. Einer spielt die KI und hat zwei Stunden Zeit, den anderen (der einen menschlichen Betreuer spielt) per Textnachrichten davon zu überzeugen, die KI auf die Welt loszulassen. Ergebnis: von 5 Versuchen hat die "KI" 3 gewonnen. Keine beruhigende Quote...

Sollte man so eine KI entwickelt werden dauert das immer noch eine Weile, bis dahin gibt es genug Zeit sich Sicherheitsmaßnahmen auszudenken.

Und ich gehe davon aus, dass sie abgeschaltet wird, wenn sie anfängt jemanden zu bedrohen. Wäre zumindest sinnvoll.

[Slaan]

Meine Güte Lao... der Sinn des Threads ist es unter anderem sich zu überlegen "was wäre wenn". Deine Posts sind dabei so hilfreich wie Nippel bei Männern, vermutlich sogar weniger da Nippel bei Männern immerhin Diskurs auslösen können. Ja aktuell ist es nicht annährend möglich eine AI zu entwickeln die wir als "menschlich" oder als "mit Seele" empfinden würden, das heißt aber nicht das wir nicht uns dem Gedankenexperiment hingeben können um zu überlegen: Was wäre wenn es möglich ist? Die zwei Beiträge von dir in dem Thread die mir im Gedächtnis sind zielen darauf ab jegliche Diskussion zu ersticken, erst mit "ohne Definition des Begriffs "Seele" ist es eh egal" und jetzt (interpretiert) mit "wenn es mal so weit ist sind wir sicher bereit dafür". Das eine ist ignorant, das andere naiv in meinen Augen

Zum einen stellt sich die Frage die Shakka impliziert hat nicht nur bei AI sondern auch bei anderen Lebewesen und sogar bei einigen Menschen: Ab wann darf man unabhängig teilhaben an unserer Gesellschaft? Shakka hat es an der Möglichkeit der Teilnahme an Wahlen angesprochen, aber es bezieht sich auch auf viele andere Bereiche. Der Aspekt des Selbstbewusstseins (im Sinne von: Sich seiner selbst bewusst sein) wurde schon angesprochen und je nachdem welche Latte man anlegt findet man auch bei einigen Tieren anzeichen (/Beweise), dass sie sich selbst bewusst sind. Nun gibt es vermutlich kein Tier aktuell dem wir ein Wahlrecht eingestehen würden, selbst Koko nicht... das kann also nicht der einzige Aspekt sein den wir in dieser Richtung betrachten.

Interessant ist vermutlich auch die Frage, welchen Menschen wir das Wahlrecht verweigern, denn es gibt afaik einige geistig gestörte Menschen die nicht wählen dürfen. Grade nachgelesen, in Dtl bezieht sich das auf Personen, die keinen Teil ihres Lebens selbst managen können: http://www.wahlrecht.de/lexikon/ausschluss.html... das ist natürlich in unserer Frage keine Hilfe. Aber das wäre die Frage nicht? Was ist die Vorraussetzung um wählen zu können? Von dem Ausschlussgrund oben könnte man ableiten, dass jeder wählen darf der "jeden Aspekt seines Lebens selbst im Griff hat" (oder so ähnlich), was wiederrum praktisch alle Tiere beinhalten würde.

Aber gut, das ist ein ohnehin extrem kompliziertes Thema, Wahlrecht und Co. Ob wir den Sweetspot erreicht haben indem jeder Depp wählen darf wird sich wohl erst noch rausstellen, Trump und AfD lassen mich dabei zweifeln.

Interessant wird es nochmal, wenn wir allerdings den nächsten Schritt gehen und fragen: Wenn einer AI das Wahlrecht zugesprochen bekommt, wieviel Stimmen erhält sie? Eine weil sie eine AI ist? Pro Maschine/Device eine? Pro Prozess oder Thread eine?

Super cooles Thema

[Setcab]

Sollte man so eine KI entwickelt werden dauert das immer noch eine Weile, bis dahin gibt es genug Zeit sich Sicherheitsmaßnahmen auszudenken.

Und ich gehe davon aus, dass sie abgeschaltet wird, wenn sie anfängt jemanden zu bedrohen. Wäre zumindest sinnvoll.

Es geht dabei ja gerade drum, dass man die Zeit nutzen muss, um sich tatsächlich Sicherheitsmaßnahmen auszudenken. Wenn die KI einmal da ist, wäre es dafür ein bisschen spät.
Und bei den Tests geht es mir darum, dass Roboter gebaut werden würden, deren einziger Zweck es ist, diesen Test zu bestehen und die dann alle Möglichkeiten nutzen. Den Turingtest (den bereits Computer mehr oder weniger bestanden haben) gehen sie z. B. an, indem sie das Gespräch unauffällig in Bereiche lenken, in denen sie sich sicher fühlen. Wenn wir wollen, dass uns der Test sagt, ob ein Roboter tatsächliche Intelligenz besitzt, muss er in der Lage sein, solche speziell auf ihn zugeschnittene Roboter auszusortieren, wenn sie keine echte Intelligenz haben.

Wer sagt, dass sie anfängt, jemanden zu bedrohen, solange man sie abschalten kann? Glaubst du, Yudkowski hat seine Spielpartner bedroht? Hätte die das in irgendeiner Form interessiert?

[Baldri]

Wenn einer AI das Wahlrecht zugesprochen bekommt, wieviel Stimmen erhält sie?

Na eine, weil es zwangsweise mehrere geben wird. Ich glaube nicht, dass es nur eine KI geben wird. Die Frage ist dann allerdings: Interessiert es die KI? Wenn sie kommt und sie absolut sinnvolle politische Themen zur Zufriedenheit der meisten lösen kann... Braucht es da überhaupt noch ein Wahlrecht?

Die Verquickung von Politik und Lösungsvorschlägen scheint ja noch mal ein riesiges Gebiet zu sein. Mal angenommen die Vorschläge eienr KI sind perfekt, so dass sie immer angenommen werden. Macht sie das nicht zu einer Art demokratischen Diktator?

@Sigfried: Da es keinen Log gibt kann das durchaus möglich sein. Habe da gestern noch gelesen und eine Bedrohung mag bei manch einem durchaus fruchtbar sein.

[Shakka]

Die Frage ist dann allerdings: Interessiert es die KI? Wenn sie kommt und sie absolut sinnvolle politische Themen zur Zufriedenheit der meisten lösen kann... Braucht es da überhaupt noch ein Wahlrecht?

Sehr gut weiter gedacht


Ich dachte, ich könnte diese Idee torpedieren. Aber "zur Zufriedenheit der meisten" steht wohl nicht ohne Grund da.
Angenommen, die KI achtet nicht auf die Zufriedenheit der meisten, sondern achtet darauf, dass ihre Vorschläge "für alle das beste sind". Dann könnte die KI vielleicht beweisen, dass die Vernichtung der Menschheit absolut alternativlos ist
Also bräuchte es das Wahlrecht bis in alle Ewigkeit. Auch wenn die Ergebnisse dann immer so aussehen wie in Nordkorea.

Andererseits könnte man heute schon mit etwas Aufwand eine maximalpopulistische Politik fahren indem man einfach in jedem Punkt die Position mit der größten Zustimmung einnimmt. Das heißt aber noch lange nicht, dass man damit einen einzigen Wähler überzeugen könnte. Viele Wähler wählen vielleicht eine Politik, die schlecht für sie ist weil sie es nicht besser wissen. Und wie das Gesicht des Spitzenkandidaten aussieht ist ja auch sehr wichtig fürs Wahlergebnis. Ein elektronisches Superhirn könnte das aber sicher alles berücksichtigen und optimieren.

[Setcab]

@Sigfried: Da es keinen Log gibt kann das durchaus möglich sein. Habe da gestern noch gelesen und eine Bedrohung mag bei manch einem durchaus fruchtbar sein.

Wir wissen natürlich nicht, wie er es geschafft hat, das stimmt. Aber warum sollte der Gegner die Drohung ernst nehmen? Und wenn er sie ernst nimmt, warum sollte unser hypothetischer Wachmann intelligenter darauf reagieren?

[Lao- Tse]

Meine Güte Lao... der Sinn des Threads ist es unter anderem sich zu überlegen "was wäre wenn". Deine Posts sind dabei so hilfreich wie Nippel bei Männern, vermutlich sogar weniger da Nippel bei Männern immerhin Diskurs auslösen können. Ja aktuell ist es nicht annährend möglich eine AI zu entwickeln die wir als "menschlich" oder als "mit Seele" empfinden würden, das heißt aber nicht das wir nicht uns dem Gedankenexperiment hingeben können um zu überlegen: Was wäre wenn es möglich ist? Die zwei Beiträge von dir in dem Thread die mir im Gedächtnis sind zielen darauf ab jegliche Diskussion zu ersticken, erst mit "ohne Definition des Begriffs "Seele" ist es eh egal" und jetzt (interpretiert) mit "wenn es mal so weit ist sind wir sicher bereit dafür". Das eine ist ignorant, das andere naiv in meinen Augen

Zum einen stellt sich die Frage die Shakka impliziert hat nicht nur bei AI sondern auch bei anderen Lebewesen und sogar bei einigen Menschen: Ab wann darf man unabhängig teilhaben an unserer Gesellschaft? Shakka hat es an der Möglichkeit der Teilnahme an Wahlen angesprochen, aber es bezieht sich auch auf viele andere Bereiche. Der Aspekt des Selbstbewusstseins (im Sinne von: Sich seiner selbst bewusst sein) wurde schon angesprochen und je nachdem welche Latte man anlegt findet man auch bei einigen Tieren anzeichen (/Beweise), dass sie sich selbst bewusst sind. Nun gibt es vermutlich kein Tier aktuell dem wir ein Wahlrecht eingestehen würden, selbst Koko nicht... das kann also nicht der einzige Aspekt sein den wir in dieser Richtung betrachten.

Interessant ist vermutlich auch die Frage, welchen Menschen wir das Wahlrecht verweigern, denn es gibt afaik einige geistig gestörte Menschen die nicht wählen dürfen. Grade nachgelesen, in Dtl bezieht sich das auf Personen, die keinen Teil ihres Lebens selbst managen können: http://www.wahlrecht.de/lexikon/ausschluss.html... das ist natürlich in unserer Frage keine Hilfe. Aber das wäre die Frage nicht? Was ist die Vorraussetzung um wählen zu können? Von dem Ausschlussgrund oben könnte man ableiten, dass jeder wählen darf der "jeden Aspekt seines Lebens selbst im Griff hat" (oder so ähnlich), was wiederrum praktisch alle Tiere beinhalten würde.

Aber gut, das ist ein ohnehin extrem kompliziertes Thema, Wahlrecht und Co. Ob wir den Sweetspot erreicht haben indem jeder Depp wählen darf wird sich wohl erst noch rausstellen, Trump und AfD lassen mich dabei zweifeln.

Interessant wird es nochmal, wenn wir allerdings den nächsten Schritt gehen und fragen: Wenn einer AI das Wahlrecht zugesprochen bekommt, wieviel Stimmen erhält sie? Eine weil sie eine AI ist? Pro Maschine/Device eine? Pro Prozess oder Thread eine?

Super cooles Thema

Was ist ignorant daran zu sagen dass man sich über die Definition von Seele einig sein muss bevor man bestimmen will nach welchen Kriterien sie nachweisbar ist? Das Gegenteil ist doch gerade naiv.

"Wenn das so weit ist sind wir sicher bereit dafür" habe ich so nicht gesagt,nur dass wir zu so einem Zeitpunkt wahrscheinlich mehr Erkenntnisse und damit eine andere Perspektive zu dem Thema hätten.

Und ich würge auch deine Diskussion nicht ab, das hier ist ja kein Stammtisch wo jemand die Diskussion mit zwei Sätzen behindern kann. Wenn dich die Meinung "diese Diskussion schlägt momentan keine sehr sinnvolle Richtung ein" oder "es gibt zu viele was wäre wenns zu diesen spezifischen Fragen" so stört steht es dir frei die zwei Beiträge dazu in diesem sechsseitigen thread zu ignorieren anstatt einen Diskurs darüber zu führen, niemand zwingt dich dazu mehrere Absätze zu schreiben oder damit aufzuhören dich mit dem Thema auseinanderzusetzen.

Ich frage mich allerdings auch was du für großartige Diskurse über Nippel an Männern in deinem Leben geführt hast, damit wären wir wieder bei der Frage der Sinnhaftigkeit.

[Blubbb]

Ich denke nicht, dass man den Stromstecker von so einer KI einfach ziehen kann. Wer stellt denn die KI auf? Das sind Leute, die jetzt schon sehr viel Macht haben und die die KI nutzen, um noch mehr Macht zu bekommen. Zu Lebzeiten haben die gar kein Interesse daran, ihre Position aufzugeben. Die Reichen der Welt sagen ja auch nicht: Mist, das ist irgendwie alles ungerecht, ich gebe jetzt mein Vermögen an die Menschheit zurück und vorher entwerfe ich noch ein System zum Verteilen der Ressourcen.
Und wer weiß denn überhaupt, ob nicht schon längst irgendwo vergleichbare KIs arbeiten. Würde ich mich denn, wenn ich so eine Maschine gebaut hätte, sofort an die Wissenschaftswelt oder Presse wenden? Oder würde ich die Maschine für mich arbeiten lassen? Den Ruhm kann ich später immer noch einholen. Das ist eine Erfindung, die meine eigene kognitive Leistungfähigkeit vervielfältigt.

Die KI, sie ist ja so schlau, wird das natürlich ausnutzen und ihre Position ausbauen bis sie irgendwann eben nicht mehr auf Menschen angewiesen ist.

Um mal auf den Threadursprung zurückzukommen: Das ist vermutlich auch alles gar nicht so schlimm. Unsere Bestimmung ist es vermutlich nur, eine noch größere Intelligenz zu erschaffen, die dann wiederrum nur die nächste Stufe der Intelligenzevolution herstellt. Bis irgendwann alle Ressourcen des gesamten Universums zu einer Superintelligenz verschmolzen wurden. Die wird dann darüber grübeln, was der Sinn war und schlussendlich wird sie die Idee fassen, dass 37 Milliarden Jahre Arbeit völlig umsonst waren und Selbstmord begehen und sie ist so schlau, sie erzeugt ein riesiges schwarzes Loch, dort wird alles hineingesaugt, alle Informationen werden durcheinander gewirbelt und mit einem neuen Urknall startet der ganze Prozess von vorne. Sie erkannte eben, dass der Weg das Ziel war und ein Leben ohne Bestimmung irgendwie langweilig ist, selbst wenn man sich alles erschaffen kann, was man sich vorstellen kann. Deshalb gibts ja auch keinen Gott.

[Des Pudels Kern]

Ich denke nicht, dass man den Stromstecker von so einer KI einfach ziehen kann. Wer stellt denn die KI auf? Das sind Leute, die jetzt schon sehr viel Macht haben und die die KI nutzen, um noch mehr Macht zu bekommen. Zu Lebzeiten haben die gar kein Interesse daran, ihre Position aufzugeben. Die Reichen der Welt sagen ja auch nicht: Mist, das ist irgendwie alles ungerecht, ich gebe jetzt mein Vermögen an die Menschheit zurück und vorher entwerfe ich noch ein System zum Verteilen der Ressourcen.
Und wer weiß denn überhaupt, ob nicht schon längst irgendwo vergleichbare KIs arbeiten. Würde ich mich denn, wenn ich so eine Maschine gebaut hätte, sofort an die Wissenschaftswelt oder Presse wenden? Oder würde ich die Maschine für mich arbeiten lassen? Den Ruhm kann ich später immer noch einholen. Das ist eine Erfindung, die meine eigene kognitive Leistungfähigkeit vervielfältigt.

Die KI, sie ist ja so schlau, wird das natürlich ausnutzen und ihre Position ausbauen bis sie irgendwann eben nicht mehr auf Menschen angewiesen ist.

Um mal auf den Threadursprung zurückzukommen: Das ist vermutlich auch alles gar nicht so schlimm. Unsere Bestimmung ist es vermutlich nur, eine noch größere Intelligenz zu erschaffen, die dann wiederrum nur die nächste Stufe der Intelligenzevolution herstellt. Bis irgendwann alle Ressourcen des gesamten Universums zu einer Superintelligenz verschmolzen wurden. Die wird dann darüber grübeln, was der Sinn war und schlussendlich wird sie die Idee fassen, dass 37 Milliarden Jahre Arbeit völlig umsonst waren und Selbstmord begehen und sie ist so schlau, sie erzeugt ein riesiges schwarzes Loch, dort wird alles hineingesaugt, alle Informationen werden durcheinander gewirbelt und mit einem neuen Urknall startet der ganze Prozess von vorne. Sie erkannte eben, dass der Weg das Ziel war und ein Leben ohne Bestimmung irgendwie langweilig ist, selbst wenn man sich alles erschaffen kann, was man sich vorstellen kann. Deshalb gibts ja auch keinen Gott.

Hab ich schon erwähnt, dass ich eigentlich beide Kandidaten ziemlich erbärmlich finde?

[Lao- Tse]

Achtung Spoiler:

Was ist der Unterschied zwischen einer Schule und einem ISIS-Terrorcamp?

Achtung Spoiler:

[Baldri]

Sehr gut weiter gedacht


Ich dachte, ich könnte diese Idee torpedieren. Aber "zur Zufriedenheit der meisten" steht wohl nicht ohne Grund da.
Angenommen, die KI achtet nicht auf die Zufriedenheit der meisten, sondern achtet darauf, dass ihre Vorschläge "für alle das beste sind". Dann könnte die KI vielleicht beweisen, dass die Vernichtung der Menschheit absolut alternativlos ist
Also bräuchte es das Wahlrecht bis in alle Ewigkeit. Auch wenn die Ergebnisse dann immer so aussehen wie in Nordkorea.

Andererseits könnte man heute schon mit etwas Aufwand eine maximalpopulistische Politik fahren indem man einfach in jedem Punkt die Position mit der größten Zustimmung einnimmt. Das heißt aber noch lange nicht, dass man damit einen einzigen Wähler überzeugen könnte. Viele Wähler wählen vielleicht eine Politik, die schlecht für sie ist weil sie es nicht besser wissen. Und wie das Gesicht des Spitzenkandidaten aussieht ist ja auch sehr wichtig fürs Wahlergebnis. Ein elektronisches Superhirn könnte das aber sicher alles berücksichtigen und optimieren.

Naja, aber wenn die KI sinnvolle Vorschläge durchdrücken will, dann braucht sie schon absolute Macht, denke ich. Selbst wenn sie freundlich ist: Ey Leute: "Ob ihr wollt oder nicht, ich habe ausgerechnet, dass es sinnvoll ist, wenn ihr nur noch eine Stunde am Tag Strom habt." Tja, was nun?