Wie nutzt ihr KI?

[parats']

Das wird ab einer gewissen Komplexität aber auch nur noch wenig bringen. Wir nutzen bis heute noch immer M(/R)OLAP und Tabular, das gibt nach außen zumindest mit PowerPivot/PowerQuerylPoweBI eine gewisse Flexibilität, wenn man seine power user ordentlich einweist. Aber für die breite Fläche ist das imo nichts, sondern beschränkt sich zumindest hier auf maximal 800-1000 Leute.

 

[Gustavo]

Als Coding Assistant. Ich schätze, dass ChatGPT und Co mich - schwankt natürlich sehr jenachdem, worum es genau geht - um nen Faktor 2 bis 10 produktiver machen. Ohne könnte ich meine aktuelle Rolle wahrscheinlich gar nicht ausfüllen, weil ich gleichzeitig meinen Zeiteinsatz nur sehr begrenzt skalieren kann.

Das hier. Zumal meine Kollaboratoren halt alle möglichen Anwendungen/Sprachen benutzen: Wenn R oder Python ist es meistens kein Problem, selbst zu schreiben. Für Leute, die unironisch Stata benutzen oder mir irgendwelche "hier, schreib mal einen Idealpunktschätzer, aber kann er bitte in BUGS sein?" Wünsche vor den Latz knallen greife ich dann doch häufig auf ChatGPT zurück.

 

[Shihatsu]

I watched Nvidia's Computex 2024 keynote and it made my blood run cold

Nvidia's pre-Computex keynote address was certainly something, and none of it felt good.

www.techradar.com

 

[saistaed]

Hab nur bis zu den Tränchen gelesen, dass Nvidia passionierte Fast-Food-Servierer ihres Lebenszwecks beraubt, kam noch was?

 

[haschischtasche]

Die Seeaustrockne und Waldplaniertechnologie wird aller Voraussicht nach weiter Seen austrocknen und Wälder planieren.
Nichts grundlegend Neues, aber demnächst dann mit X * 15.000W statt mit <X * 7000W.


/e: Ist halt nett, dass das mal jemand auf Seite der Techjournalisten anspricht, weil quasi alles was aus dem Feld über die letzten drei Jahre zu hören "Ich kann das AI Gelaber nicht mehr hören" war.

 

[saistaed]

Ich versteh halt den Punkt an der Diskussion nicht: Was ist denn die Alternative? AI-Revolution verschieben, weil wir im Zuge der energetischen Transformation grad durch nen Flaschenhals gehen?
Am Ende werden entweder alle Modelle Richtung Effizienz konvergieren - 1 Mio. H100 brauchst du nicht für Application/Inferenz, sondern um foundation models zu trainieren. Oder Energie wird einfach so billig, dass es egal ist.

 

[haschischtasche]

1 Mio. H100 brauchst du nicht für Application/Inferenz

For instance, it has been estimated that, at its peak, ChatGPT had upward of 10 million users per day; the most recent statistics indicate that the ChatGPT login page received 1.7B visits in October 2023. Even assuming a single query per user, which is rarely the case, the energy costs of deploying it would surpass its training costs after a few weeks or months of deployment.

https://arxiv.org/pdf/2311.16863

AI-Revolution

Die Revolution besteht momentan daraus, dass keiner einen Plan hat wie sie ihre zusammengeklauten mit Sklavenarbeit entwickelten Schlangen relevant weiterentwickeln ohne dass die sich selbst auffuttern, und die mit Abstand größte Firma in dem Bereich mit der größten zusammengeklauten Sklavenarbeitsschlange verliert mal eben in diesem Jahr allein 50% der über die letzten 8 Jahren zusammengescheffelten Finanzmittel, weil teure Schlange.

 

[saistaed]

Training remains orders of magnitude more energy- and carbon-intensive than inference.

Mein Punkt. Dass die Inferenzkosten mit der Anzahl der User skaliert und du bei nem Produkt, das hunderte Millionen Leute nutzen, auch andere Größenordnungen erreichst, ändert daran nichts. Mein persönlicher LLM-Use kostet ein paar Watt. Big Deal im Vergleich zu analogen Tätigkeiten wie Autofahren, Duschen, Wäschewaschen ...

Die Revolution besteht momentan daraus, dass keiner einen Plan hat wie sie ihre zusammengeklauten mit Sklavenarbeit entwickelten Schlangen relevant weiterentwickeln ohne dass die sich selbst auffuttern, und die mit Abstand größte Firma in dem Bereich mit der größten zusammengeklauten Sklavenarbeitsschlange verliert mal eben in diesem Jahr allein 50% der über die letzten 8 Jahren zusammengescheffelten Finanzmittel, weil teure Schlange.

 

[Bootdiskette]

Hab nur bis zu den Tränchen gelesen, dass Nvidia passionierte Fast-Food-Servierer ihres Lebenszwecks beraubt, kam noch was?

Nicht wirklich.
Gejammer, dass es sehr unfair ist, dass uns jetzt Roboter die Arbeit wegnehmen, dass Männer daran schuld sind, dass der Glaube an den Nutzen von mehr Technologie total doof ist und dass man doch mal mehr an die Gletscher und die Menschen denken soll weil die doch einen Sinn im Leben brauchen (z.B. Burger bei McD bauen).

Ich finde jetzt auch nicht alles toll wozu moderne Technik genutzt wird, aber die Argumentation ist halt schon einfach dum.

Allein schon weil NV et al. ihre CPUs ja ständig effizienter machen, um mehr Compute pro Watt zu erreichen. Menschen zu sagen "mach das nicht weil pfui-bäh" hat halt noch nie funktioniert, weder in autoritären noch in demokratischen Staaten. Sowohl der Wandel am Arbeitsmarkt als auch in der Energiebereitstellung wird stattfinden, egal wie man es moralisch bewerten will. Da ist es schon irgendwie smarter, wenn man versucht durch geschickte Leitplankensetzung sicherzustellen, dass externe Effekte minimiert werden.

Der einzige Punkt den ich interessant finde ist, wie die Gesellschaften der Zukunft das Problem lösen werden, dass relevant viele Menschen in jeder Disziplin von Maschinen übertroffen werden. Das dürfte unser Verständnis von Menschenwürde auf die Probe stellen. Aber auch das ist nicht ultimativ Schuld der Technik. Das Problem "abgehängter Menschen" haben wir jetzt schon, nur ist es zu klein um relevant zu sein.

 

[saistaed]

Mich würde hier mal ein Update interessieren nach dem Unlock der letzten drei Monate. Schreibt noch jemand Code selbst?

 

[sesslor]

Ja, ich (bin reiner Softwareentwickler, keine managementtätigkeit).
Ich verwende zwar auch vermehrt ki, aber nur zur recherche und für triviale Sachen von denen ich keinen plan hab (docker files erstellen z.b.).

 

[parats']

Jo, wieso auch nicht?

 

[YesNoCancel]

https://imgur.com/RMt9HXU

ansonsten yau, sehe usecase, sehe aber auch den krassen brainfuck mit börsen-bewertungen, mittel-allokation und absurde verschwendung von energie. von daher, hoffe, die blase platzt bald.

 

[ViperDK]

Chat GPT rockt. Damit kann man oft besser technische Fragen diskutieren als mit dem durchschnittlichen anderen Entwickler. Phantasiert manchmal wenn er keine Ahnung von was hat aber das tut das management auch

Coden selbst mit vscode / copilot (gpt codex oder Claude) auch Nice.

Eins meiner letzten Erfahrungen: aus Tests generierte opensearch queries in gpt geposted, die Index definition dazu und Frage sinngemäß "was ist hier schlecht gelöst, welche mappings sind falsch und wie Performen die queries". Da kommt deutlich hilfreicheres dabei raus als wenn man die fünf Kollegen fragt die alle Mal was an den queries erweitern durften aber die jeweils nur oberflächliches wissen auf dem Gebiet haben.

Was sich das management erträumt steht dann wieder auf einem anderen Blatt. Aber den Reality check muss die Realität geben, die kann es sich leisten sich unbeliebt zu machen

 

[saistaed]

ansonsten yau, sehe usecase, sehe aber auch den krassen brainfuck mit börsen-bewertungen, mittel-allokation und absurde verschwendung von energie. von daher, hoffe, die blase platzt bald.

Welche Blase?

[Edit]
Ernst gemeinte Frage. Höre es häufig, verstehe es nicht

 

[kAiN!]

Deutsche Diskussion. Das Internet nannten sie auch eine Blase hierzulande.

 

[YesNoCancel]

einfach den kommenden tesla xAi merger genießen.

Deutsche Diskussion. Das Internet nannten sie auch eine Blase hierzulande.

 

[Btah]

Welche Blase?

[Edit]
Ernst gemeinte Frage. Höre es häufig, verstehe es nicht

Naja es ist im Moment halt der große Zug auf den jeder aufspringt, ob nun Firmen auf individueller Basis oder die großen Techgiganten mit den generellen Modellen, zusätzlich fangen ja jetzt auch einige Länder an da mitzuspielen, weil sie halt der Vorreiter sein wollen.

Auf der 08/15-Firmenebene wird halt versucht Dinge zu automatisieren, dabei wird zum einen selten geguckt, ob das bestehende System überhaupt die Daten passend ausgibt, dass die gut "KI-verarbeitbar" sind, und/oder was auch immer die KI ausgibt wieder gut ins System zurückgehen kann. Das mag dann teils für den extremen Standardfall hinhauen, sobald es aber etwas spezieller wird, fliegt das Ganze dann gerne mal völlig auf die Fresse. Optimalerweise hat man natürlich schon mal ein paar Mitarbeiter rausgeworfen (denn KI macht ja jetzt die Arbeit ) und der Rest soll dann mal "nebenbei" die KI und ihre Probleme lösen.

Bei den Techgiganten ist natürlich der Klassiker, dass jeder seine eigene KI machen "muss", selbst wenn die meisten auch nur die Hälfte von dem können werden, was jetzt versprochen wird, dürfte es wohl eher unwahrscheinlich sein, dass wir in 10 Jahren 20 KIs mit solidem Marktanteil haben. Vermutlich werden da wohl eher höchstens 3-5 von richtig überleben. Ob die Gewinner dann den Bedarf haben die Datencenter der Konkurrenz alle aufzukaufen...fraglich.

 

[parats']

Es ist im Techbereich an sich auch gar nicht so unüblich, dass sich die Vorreiter nicht durchsetzen. Vor Google gab es Yahoo und Konsorten, davon lebt heute nichts mehr und Google als Nachzügler ist der absolute Platzhirsch*. Ich habe wenig Argumente dagegen, wieso das nicht auch bei den KI Modellen so werden sollte.

* Gleiches gilt beispielsweise auch für Facebook.

 

[drwilly]

Welche Blase?

[Edit]
Ernst gemeinte Frage. Höre es häufig, verstehe es nicht

Edit: ok, wies scheint schreibe ich diesen Beitrag scheibchenweise...

1. Die Tech Firmen verbrennen grade Geld wie Heu.

Golem

2. Sie verdienen damit kein Geld.
Der Einsatz von KI ist ziemlich rechenintensiv.
Google bietet dir ja neben der klassischen Suche auch einen "KI-Modus". Der braucht aber Faktor 10.000 mehr Ressourcen als die Suche. Google bietet das halt (noch) für lau an, weil das der modus operandi der SV Techfirmen ist: Mit Risikokapital eine riesige Nutzerbasis, idealerweise mit Monopol, aufbauen und dann mal schauen wie man das monetarisiert. Wir sind noch in Phase 1.
Dazu gibts ein meme, dass das ganz gut auf den Punkt bringt:

Spoiler

3. The Bitter Lesson

Bitter lesson - Wikipedia

en.wikipedia.org

Zsfg: Die großen Fortschritte in der KI kamen bisher meist daher, dass man heute das 100-fache der Rechenleistung auf das Problem werfen kann als gestern, während Forschung und Entwicklung im klassischen Sinne weniger effektiv und teils sogar hinderlich waren.

Fazit:
In KI wird grade unheimlich viel Geld investiert. Dabei ist fraglich, ob diese Investitionen den Unternehmen einen echten Vorsprung und in Zukunft eine entsprechende Marktposition verschaffen. Kann auch sein, dass in 10 Jahren jeder seine eigene KI aufm Smartphone trainiert.

Edit: Ende

 

[saistaed]

Mit AI wird schon ordentlich Geld verdient. Nur im Vergleich zu dem, was investiert wird, sind das Peanuts. Diese Investitionen spiegeln den Glauben an das Potential der Technologie wieder. Ich halte diesen Glauben im Wesentlichen für berechtigt und die Investitionen - in die Kerntechnologie - auch nicht für übertrieben. Dass es in diesem Dunstkreis auch ne Menge Hype gibt und viele VC-gefütterte Startups, die eigentlich nur dünne Wrapper um Foundation Models sind, schnell wieder sterben werden: geschenkt.

Mich fasziniert bei dem Thema vielmehr, wie wenig es uns als Gesellschaft bisher beschäftigt - außerhalb einer relativ kleinen Bubble.

In KI wird grade unheimlich viel Geld investiert. Dabei ist fraglich, ob diese Investitionen den Unternehmen einen echten Vorsprung und in Zukunft eine entsprechende Marktposition verschaffen. Kann auch sein, dass in 10 Jahren jeder seine eigene KI aufm Smartphone trainiert.

Das ist NICHT die bitter lesson. Und sie hat mit der Frage auch wenig zu tun.

 

[Shihatsu]

Mit AI wird schon ordentlich Geld verdient.

Von wem? Ich sehe hier nur Nvidia.
Weder die "KI-Fabriken" bringen Geld, noch verdienen die LLM- Hersteller, ganz im Gegenteil. Unabhängig von den Investitionskosten sind allein die operativen Kosten DEUTLICH höher als die Einnahmen. Zumindest wenn ich mir die Zahlen von OpenAI, Amazon, Microsoft, xAI und co anschaue. Die einzigen die relevant Geld verdienen sind Nvidia, vergleiche Schaufeln im Goldrausch.

 

[Scorn4]

Von wem? Ich sehe hier nur Nvidia.
Weder die "KI-Fabriken" bringen Geld, noch verdienen die LLM- Hersteller, ganz im Gegenteil. Unabhängig von den Investitionskosten sind allein die operativen Kosten DEUTLICH höher als die Einnahmen. Zumindest wenn ich mir die Zahlen von OpenAI, Amazon, Microsoft, xAI und co anschaue. Die einzigen die relevant Geld verdienen sind Nvidia, vergleiche Schaufeln im Goldrausch.

Von Influencern, denen die KI-Gläubigen hinterher rennen