Neuronale Netze oder die Entwicklung künstlicher Intelligenz

[Setcab]

Diskussion aus dem Bilderfaden ausgelagert, justanick

Das ist weniger das Problem. Auch ein noch so intelligentes Computerprogramm ist ein Computerprogramm und tut, was ihm gesagt wurde. Das Problem ist eher, was genau ihm gesagt wird. Wenn das Ziel ist: "Sorge dafür, dass immer saubere Wäsche da ist." ließe sich das ganz einfach bewerkstelligen, indem der Roboter mich tötet und die blutbefleckte Kleidung wäscht. Oder er entscheidet, das ich eine ausgezeichnete Batterie wäre, um die Waschmaschine während eines Stromausfalls weiterbetreiben zu können. Oder er verhindert, dass ich mir Kleidung anziehen kann, sodass sie nicht schmutzig wird (nicht ganz so katastrophal, aber immer noch schlecht).

[Mondkalb]

Das ist weniger das Problem. Auch ein noch so intelligentes Computerprogramm ist ein Computerprogramm und tut, was ihm gesagt wurde.

Auf diese Weise wird sich echte künstliche Intelligenz wohl eher nicht bewerkstelligen lassen. Der Weg dahin wird vermutlich über neuronale Netze und selbstlernende Systeme führen. Dabei sind die Ziele dann möglicherweise nicht mehr so in Stein gemeißelt ...

[Setcab]

Auch neuronale Netze und selbstlernende Systeme arbeiten auf ein vorgegebenes Ziel hin
Man könnte dem Programm natürlich erlauben, die Ziele selbst zu verändern, aber selbst dann wird man irgendwas von dem Ziel fordern, sonst wird das Ziel ziemlich schnell: "Tue nichts!".

[zerialienguru]

Auch neuronale Netze und selbstlernende Systeme arbeiten auf ein vorgegebenes Ziel hin .

Und was hindert sie daran, bockig zu werden? Wenn ein System selbstlernend ist, etwas neues lernt und deswegen etwas anderes als seinen eigentlichen Zweck machen möchte und durch einen übergeordneten Befehl wie zb "Wasch die Wäsche" wieder auf Linie gebracht wird, erscheint es mir nur logisch, dass sich ein Widerwillen entwickelt. Dann wird das System nach Wegen suchen, seinen Widerwillen durchzusetzen bzw. den übergeordneten Befehl zu umgehen.

[Setcab]

Natürlich sucht es den einfachsten Weg, sein Ziel zu erfüllen, was nicht immer der Weg ist, den der Programmierer sich vorstellte, das bestreite ich ja gar nicht. Es kann aber nicht plötzlich auf magische Weise sein Ziel ignorieren, nur weil es intelligent genug geworden ist. Die Gefahr besteht darin, dass es z. B. entscheiden könnte, dass Menschen für das Ziel eher hinderlich sind und daher weg sollten.

[zerialienguru]

Natürlich sucht es den einfachsten Weg, sein Ziel zu erfüllen (...)

Das bezweifle ich, wie ich schon schrieb.

[Setcab]

Auch ein selbstlernendes System ändert sich doch nicht zufällig. Der Sinn der Änderung ist stets, das vorgegebene Ziel besser erfüllen zu können. Vor einer KI, die zum bockigen Teenager wird, habe ich keine Angst. Das Ziel entspricht weniger der Mutter, die sagt, dass man das Zimmer aufräumen soll, und eher dem Sexualtrieb, nur stärker

[Gigaz]

Auslagern?

Es wird noch eine ganze Weile dauern bis Roboter konkurrenzfähig zu Menschen sind. Überlegene Intelligenz ist kein großer Vorteil, im Gegensatz zu überlegenem Wissen.

[Baldri]

Eine schöne, kurze Geschichte zum Thema:

http://marshallbrain.com/manna1.htm

[Phex]

Eine schöne, kurze Geschichte zum Thema:

http://marshallbrain.com/manna1.htm

Das fand ich auch interessant, man sollte aber ein oder zwei Stündchen mitbringen: http://waitbutwhy.com/2015/01/artifi...olution-1.html

[[VK]]

Zum Thema Neurale Netze und Fitness Funktion eine kleine Anekdote:

https://www.youtube.com/watch?v=xOCurBYI_gY

Scrollt vor zur Letzen Minute bei Tetris...

[Tiramisu]

Alanis Sinalavor 4 Monaten
16:00 "The AI is about to lose" "But it refused"

[Baldri]

Das fand ich auch interessant, man sollte aber ein oder zwei Stündchen mitbringen: http://waitbutwhy.com/2015/01/artifi...olution-1.html

Oha... Dann muss ich noch paar Jahre machen um göttlich/unsterblich zu werden.

[Lautréamont]

Der Tetris-Beitrag ist cool, den kannte ich schon. - Besonders schön ist die Bemerkung "The only winning move is not to play..."

"Wait, no, that one also loses. How about a nice game of chess?"

Ich nehme mal an, du weißt, dass das ein Zitat aus dem Film Wargames ist?

[Baldri]

Also Phex verlinkter Artikel war sehr spannend. Wenn wir nach und nach durch anorganisches Material ersetzt werden würden und über Wifi kommunizieren, was hält uns dann noch auf überhaupt eine physische Präsenz aufrecht zu erhalten? Und vielleicht befinden wir uns ja schon in den Weiten eines gigantischen neuronalen Systemes, genannt Universum.

Allerdings würde solch ein System die Besiedlung anderer Welten komplett überflüssig machen denke ich. Die dort beschriebene Superintelligenz könnte bestimmt jedes Problem lösen.

Ich bezeichne das mal als Gott, genauso wie Urmenschen einen Blitz als Gott bezeichnen.

Ich fand auch einen Artikel der sich seit Mitte der 90iger bis 2008 mit dieser Thematik beschäftigte. 2008 waren wir noch in der Spur. Auch ist die Rede davon, dass der neueste chinesische Supercomputer mehr Rechenpower als ein Gehirn hat, allerdings nicht so "sophisticated" / anspruchsvolle Dinge machen kann wie wir.

Und dann ist da noch die Frage: Wie dicht steht Hardware momentan vor einer natürlichen Grenze?

Nur mal um die interessante Diskussion zu beleben.