Die Zukunft wird geil - Zukunftstechnologienthread

[Tohuwabohu]

“AI”-Systeme, die driften, halluzinieren, lügen und fabulieren können. Bald sind wir also überflüssig.

[Mondkalb]

“AI”-Systeme, die driften, halluzinieren, lügen und fabulieren können. Bald sind wir also überflüssig.

Sobald sie in der Lage sind, sich gegenseitig die - ähh - Speicher einzuschlagen.

[mauz]

Bedenkenswerter Aufruf: Stoppt die Entwicklung noch größerer KIs

Die Autoren machen unmissverständlich klar, worum es aus ihrer Sicht geht. „Heutige KI-Systeme werden bei allgemeinen Aufgaben immer konkurrenzfähiger für den Menschen, und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollten wir alle Jobs automatisieren, auch die erfüllenden?“, fragen sie und spitzen hernach weiter zu: „Sollten wir nichtmenschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen sein, überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?“

Namhafte Forscher in der Künstlichen Intelligenz und bekannte Technologie-Unternehmer wie Tesla-Chef Elon Musk und Apple-Mitgründer Steve Wozniak fordern in einem dramatischen Aufruf, die Entwicklung riesiger KI-Systeme sofort zu unterbrechen. „KI-Systeme mit menschlich-kompetitiver Intelligenz können gravierende Risiken für die Gesellschaft und die Menschheit darstellen“, heißt es in dem auf der Webseite der amerikanischen Denkfabrik „Future of Life Institute“ veröffentlichten offenen Brief.

Dort heißt es weiter: „Deshalb fordern wir alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger sind als GPT-4, sofort für mindestens sechs Monate zu unterbrechen. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen.“ Wenn eine solche Pause nicht schnell umgesetzt werden könne, sollten die Regierungen eingreifen und ein Moratorium verhängen.

Zu den Unterzeichnern des Aufrufs gehören neben Musk und Wozniak der Pinterest-Mitgründer Evan Sharp sowie eine Vielzahl ausgewiesener Informatiker und auf KI spezialisierter Fachleute, darunter Stuart Russell, Grady Booch, der Turing-Award-Gewinner Yoshua Bengio, der am MIT lehrende Physiker Max Tegmark und der New Yorker Neurowissenschaftler Gary Marcus, aber auch Vertreter anderer Disziplinen wie etwa der israelische Historiker Yuval Noah Harari, der mit mehreren Bestsellern über die gesellschaftlichen Folgen des technologischen Fortschritts weltbekannt geworden ist. Insgesamt haben den Brief inzwischen mehr als 1000 Menschen unterzeichnet.

[Fonte Randa]

Steigt nicht in diese dampfenden Stahlrösser, die fahren so schnell, ihr werdet alle sterben!

[Makulator]

das haben die (Indianer) Indigenen damals anders gesehen.....das eiserne Pferd wird unsere Welt zerstören....

[Fonte Randa]

Dazu einfach mal einen musikalischen Beitrag:

[DerMonte]

Steigt nicht in diese dampfenden Stahlrösser, die fahren so schnell, ihr werdet alle sterben!

Satanszeug.

[Schnatti]

Milan

[GT]

Also wenn Musk dagegen ist, muss es gut sein..

[Visa]

Also wenn Musk dagegen ist, muss es gut sein..

Mit fehlerhafter KI hat er ja Erfahrung.

[Makulator]

Dazu einfach mal einen musikalischen Beitrag:

https://youtu.be/hm4WQkJOlS0 von mir auch Knockator...Weg nach unten

[wisthler]

Also geil (siehe Threadtitel) wahrscheinlich nicht für den Jobmarkt, die sozialen Strukturen und die meisten Menschen, aber definitiv für unseren neuen Maschinenoverlord! Den ich hier schon mal im Namen de Civforums begrüße und als neuen Meister vor Goethe anerkenne!

[Wild Haggis]

Dazu passend:


Das ist einer der Autoren von diesem "Sparks"-Paper. Ich meine: klar ist dieser Typ nicht neutral, sondern schwer begeistert. Aber: wenn Chat-GPT4 wirklich so viel besser als GPT3 geworden ist und wirklich solche Ergebnisse liefert, dann ist das schon extrem verblüffend. Sehr spannend, wie das in einem weiterem halben Jahr aussehen wird.

Was man nicht weiß ist, an welchem Punkt dieser Entwicklung man derzeit steht.
Tom Scott hat dazu vor einigen Wochen auch ein Video gemacht:

[WeissNix]

Also wenn Musk dagegen ist, muss es gut sein..

Der Spieltheoretiker in mir sagt dazu, dass er sich damit die Konkurrenz vom Leib zu halten versucht. So wie wenn Russland einen Waffenstillstand anbieten würde.. Kann er ganz schnell vergessen. Was hier in der EU auch schon wieder abgeht, german Angst, Regulierungswahn.. Ich sehe es schon kommen, das erste Orwell'sche Wahrheitsministerium wird mitten in Europa stehen



Es gibt Milliardäre, Visionäre, die dazu auch wieder sowas wie ein Grundeinkommen ins Spiel bringen. Aber darum soll sich natürlich bitte der Staat kümmern, also nicht den Reichtum anfassen, sondern steuerfinanzieren.. Klar soweit? Es wird ein game changer und zwar schneller als wir uns umgucken können.

Ich bin ja mal dem Roboter Nadine begegnet (Paderborn, Computermuseum), aber das ist ja auch schon wieder Schnee von vorgestern..



Erst kommen die Bots, die über unsere Kreditwürdigkeit (mit der Schufa beschäftigen sich die Gerichte dazu gerade wieder), unsere wenigen noch verbliebenen menschlichen Berufe, Einstellungswürdigkeit und damit über unseren weiteren Lebenslauf bestimmen, dann kommen die Kampfroboter äh E-Autos mit einer generellen KI, die dann über Leben und Tod entscheiden..

[Baldri]

Warum würde eine KI per se Wert auf Geld legen?