Allianz Studie: Künstliche Intelligenz macht Unternehmen anfälliger für Grossschäden
Wallisellen (ots)
- Künstliche Intelligenz (KI) macht Unternehmen anfälliger für
Grossschäden durch Cyberangriffe und technisches Versagen
- Verantwortung verlagert sich vom Menschen auf die Maschine:
Unternehmen sehen sich vor neuen, vielfach noch ungeklärten
Haftungsfragen
- Maximierung des Nettonutzens von KI durch vorausschauendes
Risikomanagement mit Fokus auf fünf Bereiche:
Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung
und Ethik
- Versicherungsbranche nutzt KI zur Automatisierung von
Prozessen, Risikoanalyse und besseren KundeninteraktionChatbots, selbstfahrende Autos und vernetzte Maschinen in digitalen Fabriken lassen erahnen, wie unsere Zukunft einmal aussehen wird. Der Einsatz von Künstlicher Intelligenz (KI) bringt Unternehmen viele Vorteile wie höhere Effizienz, weniger repetitive Aufgaben und einen besseren Kundenservice. Gelangt die Technologie jedoch in die falschen Hände, könnten die potenziellen Gefahren den grossen Nutzen schnell nivellieren. So steigert die allgegenwärtige Vernetzung die Anfälligkeit gegenüber böswilligen Cyberangriffen oder technischem Versagen, die zu grossflächigen Ausfällen und enormen finanziellen Verlusten führen können. Unternehmen sehen sich zudem mit neuartigen Haftungsfragen konfrontiert, da sich die Verantwortung für Handlungen vom Menschen auf die Maschine verlagert.
In ihrer neuen Studie "The Rise of Artificial Intelligence: Future Outlook and Emerging Risks" identifiziert die Allianz Global Corporate & Specialty (AGCS) einerseits die Vorteile der zunehmenden Implementierung von KI in Wirtschaft und Gesellschaft, weist aber auch auf entstehende Risiken durch die neue Technologie hin. Bei KI, auch als maschinelles Lernen bekannt, handelt es sich um Software, die in der Lage ist, wie ein Mensch zu denken und zu entscheiden. "Egal ob für Wirtschaft, Politik, Mobilität, Gesundheit, Verteidigung oder Umwelt, KI bringt vielfältige Vorteile, aber auch potenzielle Risiken mit sich. Wir brauchen dringend vorbeugende Massnahmen zur Risikominderung, um den Nettonutzen bei der breiten Einführung von KI-Anwendungen zu maximieren und unbeabsichtigte Nebenwirkungen zu reduzieren", erklärt Michael Bruch, Head of Emerging Trends bei der AGCS.
Schon heute können sogenannte "schwache" KI-Anwendungen bestimmte Aufgaben wie das Erkennen von Texten ausführen. In Zukunft werden "starke" KI-Anwendungen sogar in der Lage sein, autonome Fahrzeuge zu steuern, genauere Wettervorhersagen zu treffen, Krankheiten zu diagnostizieren, Finanzgeschäfte durchzuführen oder Industriemaschinen zu bedienen und zu überwachen. KI tritt häufig in Verbindung mit anderen neuen Technologien auf, wie dem Internet der Dinge, der Datenanalytik oder der Blockchain. Laut Accenture könnte KI die jährliche Wirtschaftswachstumsrate in zwölf Industrienationen bis 2035 verdoppeln.
KI-Risiken bei Cyber und autonomen Fahren
Diese potenziellen Vorteile haben jedoch ihren Preis. KI erhöht die ohnehin wachsende Gefahr durch Cyberrisiken weiter, die laut dem Allianz Risk Barometer 2018 bereits eine der grössten Bedrohungen für Unternehmen darstellen: So könnte KI-gestützte Software zwar einerseits das Cyberrisiko für Unternehmen durch eine bessere Erkennung von Angriffen reduzieren, andererseits aber ebensolche Angriffe erleichtern, weil Planung und Durchführung einfacher werden. Ein- und derselbe Hackerangriff - oder alternativ auch ein Programmierungsfehler - könnten auf zahlreichen Rechnern repliziert werden. Dadurch werden grosse globale Cybervorfälle wahrscheinlicher, die laut Lloyds Schäden in Höhe von mehr als 50 Mrd. US-Dollar verursachen könnten.
Im Bereich Mobilität werden hohe Erwartungen in KI-Anwendungen gesetzt. Selbstfahrende Autos sollen menschliche Fehler als Hauptursache für Unfälle beseitigen und KI in Verkehrsleitsystemen den Verkehrsfluss besser steuern. Allerdings ist noch weithin ungeklärt, wer bei Unfällen haftbar ist und welche ethischen Grundsätze autonome Fahrzeuge in Dilemma-Situationen befolgen sollen, wenn Gesundheit und Leben anderer Verkehrsteilnehmer auf dem Spiel stehen.
Fünf Risikofaktoren von KI
Um entstehende KI-Risiken zu ermitteln, konzentriert sich AGCS auf fünf Bereiche: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung und Ethik. "Eine verantwortungsbewusste Entwicklung und Einführung von KI muss diese Faktoren berücksichtigen", fordert Bruch. In Bezug auf die Sicherheit könnte beispielsweise das Rennen um die schnelle Markteinführung von KI-Systemen dazu führen, dass Überprüfungen nur unzureichend durchgeführt werden und so keine sicheren und funktionalen KI-Anwendungen gewährleistet sind. Dies könnte wiederum mehr Produktmängel und -rückrufe auslösen. Was die Frage der Haftung betrifft, könnten intelligente KI-Agenten zwar künftig dem Menschen viele Entscheidungen abnehmen, dafür aber rechtlich nicht zur Verantwortung gezogen werden. In der Regel haftet der Hersteller oder Softwareprogrammierer von KI-Agenten für Fehler, die bei Nutzern Schäden verursachen. Für auf KI basierende Entscheidungen, die sich nicht direkt auf das Design oder die Herstellung zurückführen lassen, die aber von einem KI-Agenten aufgrund seiner Interpretation der Realität getroffen werden, könnte nach aktuell geltendem Recht allerdings niemand explizit haftbar gemacht werden. "Wenn die Anzahl der durch KI hervorgerufenen Schäden zunimmt, kann es schnell teuer werden und langwierig sein, die Entscheidungsfindung den Gerichten zu überlassen", meint Bruch. "Wir brauchen Expertengremien, die die rechtliche Eintrittspflicht klären und einen Haftungsrahmen ausarbeiten, der Designer, Hersteller oder Verkäufer von KI-Produkten einer beschränkten Delikthaftung aussetzt."
Der Versicherungsbranche kommt eine wesentliche Rolle zu, wenn es darum geht, neue Risiken durch KI-Anwendungen zu minimieren oder abzusichern. Traditionelle Deckungen müssen angepasst werden, um sowohl Privatpersonen als auch Unternehmen entsprechend zu schützen. Versicherer müssen Unternehmen für solche Gefahren wie Cyberangriffe, Geschäftsunterbrechungen, Produktrückrufe und Reputationsschäden bessere Lösungen bieten können. Zudem werden sich wahrscheinlich neue Haftpflichtversicherungsmodelle durchsetzen, die Hersteller und Softwareanbieter stärker in die Pflicht nehmen und die Gefährdungshaftung von Verbrauchern einschränken.
Versicherer als frühe Anwender von KI
Die Versicherungsbranche zählt aufgrund der großen Datenmengen und wiederkehrenden Prozesse zu den Branchen, die stark auf maschinelles Lernen setzen. "KI hat enormes Potenzial für Versicherer. Anfangs wird sie die Automatisierung von Prozessen unterstützen, um die Policenausstellung oder Schadenabwicklung für die Kunden zu beschleunigen und zu verbessern", erklärt Bruch. AGCS setzt bereits Roboter ein, um Dateneingaben in Systeme durchzuführen, und testet "Bots", die die eingehende Briefpost, Emails oder auch Anrufe automatisch klassifizieren und weiterbearbeiten.
Durch KI-unterstützte Datenanalysen werden Versicherer und ihre Kunden zudem ein wesentlich besseres Verständnis der Risiken erlangen, so dass diese effektiver verringert oder über neue Versicherungslösungen absichert werden können. Nicht zuletzt wird KI auch die Beziehung zwischen Versicherer und ihren Kunden verändern, weil sie beispielsweise Self-Service-Angebote oder Beratung rund um die Uhr ermöglicht.
Hinweis an die Redaktionen:
Die Studie ist unter diesem Link http://ots.ch/5sFdSF verfügbar.
Kontakt:
Heidi Polke-Markmann
Tel.: +49 89 3800 14303, Mail: heidi.polke@allianz.com
Daniel Aschoff
Tel.: +49 89 3800 18990, Mail: daniel.aschoff@allianz.com
Bernd de Wall
Tel.: +41 58 358 84 14; Mail: bernd.dewall@allianz.ch