Wie nutzt ihr KI?

[TealC]

Die Verschwörungstheorie halte ich hier für weit hergeholt.

Hugging Face hat das den Angriff ja schon vor ner Woche publiziert, jetzt hat OpenAI eingestanden, dass sie das (versehentlich) waren.

Wenn dann müssten sie den Angriff schon absichtlich gestartet haben. Das wäre aber halt schon auch einfach eine klare Straftat der Beteiligten Personen mit dem Risiko von langen persönlichen Haftstrafen in den USA. Ausserdem gibt der Vorfall denen die Regulierung fordern massiven Rückenwind. Für nen PR Stunt für nen Börsengang, will man schon auch zeigen, dass man Kontrolle über sein System hat.

 

[Btah]

Wenn dann müssten sie den Angriff schon absichtlich gestartet haben. Das wäre aber halt schon auch einfach eine klare Straftat der Beteiligten Personen mit dem Risiko von langen persönlichen Haftstrafen in den USA. Ausserdem gibt der Vorfall denen die Regulierung fordern massiven Rückenwind. Für nen PR Stunt für nen Börsengang, will man schon auch zeigen, dass man Kontrolle über sein System hat.

Das traurige ist das es so oder so eine Straftat sein sollte...wenn deine AI strafbare Dinge tut und du sie nicht unter Kontrolle hast, sollte das nicht einfach nur ein oopsie sein.

Ansonsten könnte man das natürlich auch lesen als "vielleicht haben wir Skynet bereits erschaffen"

 

[TealC]

Naja, es ist am Ende kein wirklicher Schaden entstanden. Huggingface hatte etwas Aufwand, aber dafür haben sie jetzt auch zahlreiche Sicherheitslücken geschlossen. Jetzt werden sie von OpenAIentschädigt und für Huggingface ist die Aufmerksamkeit sicherlich hilfreich. Ohne Vorsatz und ohne Schaden ist es dann auch keine Straftat mehr, es braucht schon das eine oder das andere.

Perspektivisch ist das strafrechtlich natürlich eine andere Frage. Früher oder später wird ernsthafter Schaden entstehen. Wer haftet für eine selbstständing agierende KI? Hier ist der Fall noch klar, da die gleiche Firma das Model trainiert hat, die Datacenter hostet und die Prompts (Skills) eingab. Aber was wenn das 3 verschiedene Akteure sind und alle einen Teil beitragen, dass die KI ausser Kontrolle gerät? Wer ist dafür verantwortlich das unter Kontrolle zu haben?

 

[saistaed]

"AI hat keine Nachteile oder Risiken, alles Fortschrittsverhinderer!"

Nur sagt das halt absolut niemand im Gegensatz zu dem anderen.

 

[Shihatsu]

Nur sagt das halt absolut niemand im Gegensatz zu dem anderen.

Dazu hätte ich gerne einen Quote.

Edit: Und am liebsten auch etwas temporalen und kausalen Kontext.
Hier kann ich den gerne liefern: "Wir testen unser multi-Agenten-KI-Modell, das wir darauf trainiert haben Exploits zu finden, in einer Sandbox. Mit Zugang zum Internet. Und sind ÜBERRASCHT das unsere KI da raus kommt. MAGIE!" ... Ich glaub den Fehler muss ich nicht erklären.

 

[Btah]

Naja, es ist am Ende kein wirklicher Schaden entstanden.

Es ist kein Schaden entstanden von dem man weiß. Huggingface hatte zumindest genug Security um es zu merken...vielleicht hat OpenAI ja auch noch andere Firmen gehackt die das nur nicht klar auf OpenAI (oder auch nur "eine KI") zurückführen konnten.

Nur sagt das halt absolut niemand im Gegensatz zu dem anderen.

Naja wir haben zumindest den Teil der User die selbst nie Probleme benennen und alle von anderen benannten hand-wavy wegwischen wollen mit irgendwelchen Ausreden. Klar kann man jetzt die Ausrede versuchen, dass die ja vermutlich nie wortwörtlich gesagt haben "Es gibt keine Probleme!"