Muss das unbedingt so eine gute KI sein. Selbst 12 GB KIs sollten doch ganz ok sein zur Text-Extraktion.![]()
Muss das unbedingt so eine gute KI sein. Selbst 12 GB KIs sollten doch ganz ok sein zur Text-Extraktion.![]()
Für ganz simple Aufgaben kannst du auch Gemma4 12B oder Qwen 3.5 9B oder sowas nutzen, aber da habe ich schon einen ordentlichen Unterschied gemerkt, wenn die Sachen minimal komplexer wurden oder mit mehreren Dateien/Aufträgen zu tun hatten.
Dann ist die weitere Frage: Stellst du eine Quelle/ein File zur Verfügung, oder willst du einfach einen Projektordner zur Verfügung stellen und die KI soll aus diesen die gewünschten Daten extrahieren oder gar eine Internetrecherche oder beides oder oder ...
Mit 16GB kannst du auch mit Einschränkungen die größeren Modelle nutzen (Q3 Quantifizierung, quantifizierter Cache, geringer Kontext-Cache).
Freedom's just another word for nothing left to lose
Es können mehrere größere Files sein, aber bisher habe ich nicht so recht damit herumexperimentiert. Ich dachte mit klugem KI-Engineering könnte man auch mit kleinen Modellen ganz gut zurecht kommen. Da gibt es doch sicher gute Tricks, wie man z.B. mit einer kleinen Kontextlänge arbeiten kann.![]()
Tricks gibt es mehrere.
Wichtig dafür ist, dass die Modelle bereits für agentic work trainiert worden sind --> Modelle von vor 2026 kann man vergessen.
Von Qwen 3.5 auf Qwen 3.6 und jetzt auch zu Qwen 3.8 war ein gewaltiger Sprung in agentic work.
Dadurch sind die Modelle relativ zuverlässig dabei zum Beispiel mittels grep oder Ähnlichem Files zu durchsuchen und dann genau die Treffer zu lesen und nicht das komplette file.
Du kannst Skills oder workflows definieren, wo du der KI eine Arbeitsweise vorgibst.
Das Problem:
Qwen 3.5-9B ist noch eine Qwen 3.5 Reihe, also darauf nicht spezialisiert. Eine Zusammenfassung oder so eines langen Files schreibt es dir aber problemlos.
Gemma4 12b hat mit agentic work leider etwas Probleme
Da müsste man ausprobieren ob eines der beiden Modelle mit Q4 und mehr Kontext
oder Qwen 3.8-27B oder Agent World in ~Q3, Q4 KV Cache, 1-2 Layer auf der CPU und dann die Kontextsize maximieren besser ist.
Meine Erfahrung war, dass Qwen 3.5 35B-A3B für komplexe Suche innerhalb eines Folders mit Abgleichen von anderen Arbeiten und dann darauf reagieren immer wieder Fehler machte.
Qwen AgentWorld ging meistens.
Qwen 3.6 27B hat mich bei sowas eigentlich fast nie im Stich gelassen.
Freedom's just another word for nothing left to lose
AMDs Umsatzprognose für das vierte Quartal liegt mit 17,0 Mrd. Dollar über der von Intel.
https://www.3dcenter.org/news/die-am...n-quartal-2026Nach Intel hat auch AMD seine Geschäftszahlen für das abgelaufene dritte Jahresquartal vorgestellt. Hierfür hatte AMD vorab 13 Mrd. Dollar Quartalsumsatz (±300 Mio. $) prognostiziert, was mit real 13,38 Mrd. Dollar knapp überboten wurde. Damit hat AMD nun erstmals einen der jüngeren Intel-Quartalsumsätze erreicht, denn in den ersten zwei Quartalen 2023, den ersten drei Quartalen 2024 sowie den ersten zwei Quartalen 2025 lag Intel sogar unterhalb dieser Marke von 13,38 Mrd. Dollar. Aktuell rangiert Intel mit zuletzt 16,5 Mrd. Dollar zwar noch ein gewisses Stück oberhalb AMDs, hat aber die klar schwächere Entwicklungstendenz gegenüber AMD, was in absehbarer Zeit sogar zu einem Umsatzgleichstand führen sollte. Aber auch schon innerhalb derselben Größenklasse wie Intel zu liegen, ist für AMD ein echter Meilenstein, schließlich ist man durch lange Zeiten gegangen, wo das Größenverhältnis zwischen AMD und Intel eher mit grob 1:10 zu beschreiben war.
Jensen hat viele Unterstützer bei NVIDIA. Everyone loves Jensen.
https://videocardz.com/newz/jensen-h...-as-nvidia-ceoJensen Huang may not be finished with NVIDIA just yet. According to a new Financial Times report, the company’s former chief executive is considering returning to his position only days after resigning. The FT cites multiple people familiar with discussions between Huang and his confidants about a possible comeback.
One of Huang’s allies told the FT that supporters were organizing a “war room” involving Silicon Valley executives. The group reportedly intends to pressure NVIDIA’s board into reinstating Huang and will also seek support from the White House. According to the same source, Huang supports these efforts.
https://www.tagesschau.de/wirtschaft...osten-100.html
Seine Geliebte war noch nicht mal eine chinesische Spionin. Es war alles nur eine Intrige.![]()
Sagt Tiramisu. Und der ist ja wohl die verlässlichste aller Quellen!
Die Hardware oder die Aktie?
hier steht eine SignaturDie EG-Bildungsminister: Lesen gefährdet die Dummheit!Alle PNs mit Interviewantworten werden veröffentlicht!
Achtung Spoiler:
Gemessen am Kurs-Gewinn-Verhältnis ist Nvidia unterbewertet. Die sehr hohen Gewinnspannen in einem sehr großem Markt bedeuten jedoch auch, dass Konkurrenz anwächst. 6 der 7 wichtigsten Kunden von Nvidia entwickeln eigene KI-Chips, darunter google. AMD hat Chips, die grob konkurrenzfähig sind und dank KI ist CUDA viel weniger wichtig als früher.
Dad beantwortet meine Frage noch nicht abschließend![]()