Weil Föderalismus.
Eben. Gerade bei dem Tätigkeitsprofil ist man mit solchen Sperenzchen bei den guten Leuten sofort raus. Gerade in einem Bereich, in dem eigentlich gute Leute gebraucht würden, ist das ziemlich traurig.
+ Man wundert sich warum nichts zusammenpasst und nichts funktioniert.
Naja aber passt das nicht zusammen? Man kann KI doch hervorragend zur Diagnostik verwenden und ihr gleichzeitig nicht Entscheidungen überlassen, was ich auch so unterschreiben würde. Entscheidungen durch ein System treffen zu lassen, bei dem man nicht weiß wie dieses System zu der Entscheidung gelangt ist, ist imo keine gute Idee. Mehr technische Experten in der Diskussion wären natürlich trotzdem zu begrüßen.Passt hier wohl noch am besten rein: https://www.faz.net/aktuell/politik...ich-zu-herausforderungen-von-ki-18761559.html
Deutschlands wertvollste erneuerbare Ressource, die Ethik, wird bemüht, um "Vorgaben für KI" zu machen. Erstaunlich dabei: Der Ethik-Rat, hauptsächlich besetzt mit Theologen, Juristen und Medizinern ist der Meinung, dass man Entscheidungen nicht einfach so der Maschine überlassen sollte. Könnte ja jemand anfangen sich zu fragen, ob intellektuell eher niedere Tätigkeiten wie rechtliche Subsumtion oder medizinische Diagnostik nicht vielleicht übervergütet werden.
Es geht dabei nicht um Diagnostik: Wie gesagt sehe ich da auch die großen Vorteile der KI und würde sie liebend gerne einsetzen. Entscheidung, im medizinischen Kontext, sehe ich eher z.B. bei der Wahl der Therapieform.
Das sind für mich grundsätzlich 2 verschiedene Problemstellungen. Wie saistaed sagt gibt es da natürlich gewisse Hemmschwellen dafür, Kontrolle an Algorithmen zu übergeben, weil triviale Fehler überbewertet werden, selbst wenn die Gesamtperformance dem Menschen überlegen ist: Bestes Beispiel autonomes Fahren, bei dem der Wagen eventuell trotzdem nen Unfall baut, den ein Mensch nicht gemacht hätte. Da bin ich in Summe trotzdem für autonomes Fahren, was sicherlich in Statistiken trotzdem die besseren (sichereren) Werte erreichen wird. Da kann ich aber auch sehr genau den Algorithmus betrachten und die Entscheidungsfindung des Computers bewerten; die Fehler kommen i.d.R. ja eher aus Sensorikfehlern. Ist also imo eine andere Baustelle als die Frage danach, wie das System zu seiner Entscheidung gekommen ist.
Wieso sollte man den Algorithmus nicht belangen können?
Naja, das sind ja keine Algorithmen mehr im herkömmlichen Sinne. Da lässt sich die Verantwortung schon ganz gut hinterherschieben. Der eine wird sagen, es lag an der Neural-Network-Architektur, der andere macht irgendwelche Tweaks für den Fehler verantwortlich, wieder ein anderer wird den Fehler in den Trainingsdaten suchen, der nächste in der Dateneingabe usw.
Es ist leider schlimmer als du denkst: Afaik sind die heutzutage verwendeten Architekturen zwar an sich robust: große Änderung des Outputs benötigen große Änderung des Inputs, aber das System ist immer anfällig in dem Sinne, dass aus Sicht eines Menschen triviale Input-Änderungen eine kritische Abweichung im Output produzieren können.
Dafür gibt's doch easy Gesetzgebungskompetenz . Wer die api anbietet ist dafür verantwortlich und haftbar.
Das hängt ja auch von den Ansprüchen an einen Vertrag ab, oder? Man muss sich halt davon lösen, dass Programm X eine Abbildung von Y nach Z garantiert, sondern akzeptieren, dass der Erfolg eine Zufallsvariable ist. Wenn ich das als Anbieter klar kenntlich mache, kann sich der Anwender halt dagegen entscheiden, wenn ihm das nicht gut genug ist, oder er muss damit leben, dass das Programm in Einzelfällen auch grob daneben liegt.
Ich glaube wir reden irgendwie aneinander vorbei. Du bist bei der Diagnostik und z.B. bei der KI-gestützten Tumorerkennung. Klar, echte Effizienz gibt es nur, wenn irgendwann kein Mensch mehr über die Aufnahmen schauen muss, sondern eine KI das komplett zusammenstellt und zum Ergebnis gelangt. Auch hier kann es sein, dass wir nicht genau wissen, wie die KI zu ihrem Ergebnis kommt, aber damit kann ich leben. Es geht dabei um eine digitale Feststellung bezüglich Tumor ja/nein und da wäre mir nur wichtig, dass wir gut den Fehler und dessen Entwicklung erforschen, um eine vernünftige Kalibrierung des Systems zu definieren.
Das nicht, aber man benutzt sowas ja nicht, um mehrmals genau denselben Input reinzustecken. Wir wünschen uns Programme, die komplexe Probleme für uns lösen. Und dabei wird es in seltenen Fällen deutliche Abweichungen vom gewünschten Ergebnis geben, sogar in Fällen, die Menschen erkennen können.
Diese Annahme beruht darauf dass der Mensch "offensichtlich" Sachen ausblendet die das system für wichtig erachtet.
Wieso soll es nicht möglich sein sich die Lösungsstrategie der Ai von selbiger bis ins kleinste Detail erklären zu lassen?
