Wahrscheinlich steht und fällt jetzt alles mit der passenden Definition von Kreativität.
Also ich gehe mal davon aus, dass der Mensch davon überzeugt ist, dass er kreativ agieren kann und Kreativität für etwas sehr tolles hält.
Wenn man Maschinen, Schaltungen, Computer in seinen kleinsten Bauteilen betrachtet, bestehen sie alle aus deterministisch operierenden Elementen. Es gibt ein Bauteil was aus 1 die 0 macht. Und eines, das aus 0 die 1 macht. Dann gibt es eines, das aus zwei 1en die 0 macht. Usw.
Es gibt aber kein Bauteil, das irgendwie "kreativ" ist. Vielleicht kann man ein defektes Bauteil als kreativ betrachten. Ein Blick in die Natur zeigt, dass Vielfalt und Kreativität oft aus Fehlern also Defekten besteht. Aber was ist nun ein Fehler? Ein Strahl aus dem Weltraum könnte einfach mal ein Bit löschen. Oder ein Problem in der Stromversorgung könnte das Bauteil dazu bewegen, sich anders zu verhalten. Man könnte auch irgendwas "zufälliges" nehmen und als zusätzliche Eingabe hernehmen.
Aber all diese Dinge haben gemein, dass diese kreativen Einschläge nicht "von innen" kommen sondern einzig vom Zustand abhängig sind. Wenn ich sehe, dass das Bauteil nach hundert Operationen defekt ist, nur noch stumpf 0 ausgibt, könnte ich so ein Verhalten auch simulieren und ein Bauteil, das nicht kaputt geht, nach 100 Operationen einfach zerstören.
Jedenfalls wollen wir aktuell nur mit Maschinen arbeiten, die "ordentlich" funktionieren. Wenn es uns nun gelingt, eine solche Maschine zu bauen, die alles kann, was das Gehirn des Menschen auch kann, hätten wir bewiesen, dass das Gehirn des Menschen bloß eine primitive Schaltung ist. Da gibt es nichts kreatives. Alles ist bloß vom Zustand abhängig. Damit würde unsere Kreativität aber nicht ausgelöscht werden. Wir sähen dann, dass Komplexität so gut wie Kreativität sein kann. Oder anders gesagt muss man nur dumm genug sein um etwas kreativ zu nennen.
Wenn man zurückschaut, haben Computer ihre Vorteile immer allein aus gesteigerter Komplexität gewonnen. Es gab Zeiten, da haben studierte Fachleute irgendwelche komplexen Berechnungen durchgeführt. Wer nicht vom Fach war, hat das als Magie angesehen. Irgendwann haben diese Berechnungen Computer völlig fehlerfrei und in extrem kurzer Zeit ausgeführt.
Vielleicht konnte man den ersten Taschenrechner den Leuten als "intelligent" verkaufen. Wenn ein Mensch zwei große Zahlen im Kopf multipliziert staunt man ja auch und hält den Kerl dann für intelligent.
Heute sind Rechenaufgaben nur noch "stumpf". Dazu braucht es keine Intelligenz. Das kann zwar kein Mensch aber jeder Taschenrechner aus dem Euroladen.
Vielleicht kommt als nächstes der Ausruf, dass Kreativität nichts mit Intelligenz zu tun hat. Man muss ja bloß genug Rechenkapazität haben um möglichst schnell möglichst viel durchzuprobieren und dann hat man schon eine kreative Lösung. Eine Lösung, die alle Menschen zusammen in Millionen Jahren nicht gefunden haben, aber trotzdem völlig uninspiriert.