![](\"https:\/\/cache.pressmailing.net\/thumbnail\/story_big\/90e6b670-1c81-424f-ab37-e1f37276cc7c\/Ethical_AI_Framework.JPG\" "\\"K\u00fcnstliche")
<\/p>\n<\/p>\n
Berlin (ots) – Das Bewusstsein f\u00fcr ethische Fragestellungen beim Einsatz von K\u00fcnstlicher Intelligenz (KI) ist in Unternehmen und Verwaltungen gestiegen. Dennoch f\u00e4llt die diesj\u00e4hrige Erfolgsbilanz gemischt aus, da nur in Teilbereichen Verbesserungen erzielt wurden. Ein Grund: Nur 53 Prozent der Organisationen verf\u00fcgen \u00fcber eine F\u00fchrungskraft, die f\u00fcr ethische und vertrauensw\u00fcrdige KI-Systeme verantwortlich ist. Zugleich sind im Vergleich zum Vorjahr mit 62 statt 76 Prozent weniger Verbraucher der Ansicht, dass Unternehmen vollst\u00e4ndig transparent offenlegen, wie pers\u00f6nliche Daten verwendet werden. Zu diesen und weiteren Erkenntnissen kommt die Capgemini (http:\/\/www.capgemini.com\/de) Studie “ AI and the ethical Conundrum: How Organizations can build ethically robust AI Systems and gain Trust (https:\/\/www.capgemini.com\/de-de\/news\/ki-ethik-ai-vertrauen-studie) „. Sie hebt auch hervor, dass der Fokus auf ethische Aspekte entscheidend ist, um das transformative Potenzial von KI f\u00fcr Umwelt, Wirtschaft und Gesellschaft auszusch\u00f6pfen. Organisationen sehen zunehmend den Handlungsbedarf hinsichtlich ethischer KI-Systeme: 45 Prozent haben 2020 eine KI-Charta definiert (2019: 5 Prozent) und zwei Drittel (65 Prozent) der F\u00fchrungskr\u00e4fte sind sich bewusst, dass KI-Systeme potenziell zu diskriminierenden Entscheidungen f\u00fchren k\u00f6nnen. 58 Prozent geben zudem an, ihre Mitarbeiter \u00fcber die m\u00f6glichen Auswirkungen der KI-Nutzung aufgekl\u00e4rt zu haben. Dennoch verzeichnen KI-Systeme 2020 allein in der ethischen Dimension Erkl\u00e4rbarkeit Fortschritte gegen\u00fcber 2019. Zudem meinen nur 40 Prozent der KI-Entwickler sowie 27 Prozent der KI-Anwender aus Marketing und Vertrieb nachvollziehen zu k\u00f6nnen, wie Entscheidungen durch KI getroffen werden. Auf Seiten der Verbraucher erwarten hingegen 71 Prozent, dass Unternehmen solche Entscheidungen genau herleiten k\u00f6nnen. Weiterhin setzen 66 Prozent voraus, dass KI-Modelle fair und vorurteilsfrei agieren und Interaktionen transparent ablaufen. F\u00fcr die Studie befragte das Capgemini Research Institute insgesamt 2.900 Konsumenten in sechs L\u00e4ndern sowie knapp 900 F\u00fchrungskr\u00e4fte in zehn L\u00e4ndern, jeweils einschlie\u00dflich Deutschland. Die Ergebnisse wurden zudem mit verschiedenen Studien des Vorjahres verglichen. COVID-19 wirkt sich negativ auf die Transparenz von KI-Verfahren aus Die Studie untersucht KI-Systeme anhand der vier ethischen Dimensionen Erkl\u00e4rbarkeit, Fairness, \u00dcberpr\u00fcfbarkeit und Transparenz und kommt zu dem Ergebnis, dass sich 2020 ausschlie\u00dflich die „Erkl\u00e4rbarkeit“ verbessert hat: Demnach k\u00f6nnen mit 64 Prozent doppelt so viele Organisationen wie 2019 die Funktionsweise ihrer KI-Systeme in einfacher Sprache erkl\u00e4ren. Eine \u00dcberpr\u00fcfung der Datens\u00e4tze und KI-Systeme zwecks einer fairen Gleichbehandlung aller Gruppen nehmen 65 Prozent (2019: 66 Prozent) vor. Ebenfalls um einen Prozentpunkt auf 45 Prozent sank die Zahl der Unternehmen, die unabh\u00e4ngige Audits bei ihren KI-Systemen gem\u00e4\u00df der „\u00dcberpr\u00fcfbarkeit“ ethischer Aspekte durchf\u00fchren. Am st\u00e4rksten ging die Anzahl an Unternehmen zur\u00fcck, die KI-Anwender transparent \u00fcber die m\u00f6glichen Auswirkungen von KI-Entscheidungen informieren; ihr Anteil sank von 73 auf 59 Prozent (Deutschland: von 63 auf 52 Prozent). Dies spiegelt sich auch im gesunkenen Vertrauen der Verbraucher, von denen 62 Prozent (2019: 76 Prozent) den Unternehmen attestieren, transparent zu agieren. Als m\u00f6gliche Ursachen hierf\u00fcr nennt die Studie die gestiegene Komplexit\u00e4t von KI-Anwendungen, den Versuch, Gesch\u00e4ftspraktiken zu sch\u00fctzen sowie die Auswirkungen auf den Algorithmus durch die Corona-Pandemie. Demnach haben ein ver\u00e4ndertes Konsumentenverhalten, der Mangel an historischen Daten f\u00fcr vergleichbare Situationen sowie die ge\u00e4nderte Gewichtung von Sicherheitsaspekten und weiterer Kriterien dazu gef\u00fchrt, dass Systeme neu gestaltet und an die neue Normalit\u00e4t angepasst werden mussten. Kundenerwartungen und staatliche Regulierungen \u00fcben Handlungsdruck aus Viele \u00f6ffentliche und private Institutionen haben zus\u00e4tzliche KI-Technologien eingef\u00fchrt, um den Folgen der Corona-Pandemie zu begegnen. Entsprechend wird das Vertrauen der Verbraucher in KI-Interaktionen k\u00fcnftig umso wichtiger. Zugleich erh\u00f6hen gesetzliche Rahmenbedingungen den Druck auf Unternehmen. So hat die Europ\u00e4ischen Kommission ethische Leitlinien entwickelt[1] und die US-Handelskommission FTC Anfang 2020 Richtlinien f\u00fcr eine transparente KI[2] aufgestellt. Letztere sehen vor, dass Verbrauchern bei negativen Entscheidungen – beispielsweise einem abgelehnten Kredit – die zur Entscheidungsfindung zentralen Datenpunkte offengelegt werden. Damit sollen sie die Chance erhalten, falsche oder irref\u00fchrende Angaben zu korrigieren. Von den Unternehmen geben 62 Prozent (Deutschland: 67 Prozent) an, in ihrer Region geltende Datenschutzbestimmungen wie GDPR zu erf\u00fcllen, eine Steigerung um 13 Prozentpunkte im Vergleich zu 2019. Die Studie zeigt, dass Datens\u00e4tze mitunter tats\u00e4chlich soziale und kulturelle Vorurteile („Bias“) aufweisen[3], wobei sich 65 Prozent der F\u00fchrungskr\u00e4fte des Problems diskriminierender Verzerrungen bewusst sind. Einer rechtlichen Pr\u00fcfung wurden bereits 60 Prozent der Unternehmen (Deutschland: 54 Prozent) unterzogen. Insgesamt 22 Prozent (Deutschland: 21 Prozent) der Unternehmen wurden in den letzten drei Jahren von Kunden damit konfrontiert, dass sie KI-basierte Entscheidungen anzweifeln, beziehungsweise die Entscheidungsfindung nachvollziehen wollen. Hierin liegt ein Erfolgsrisiko, da 45 Prozent der Kunden negative Erfahrungen mit Freunden und Verwandten teilen und sie dazu anhalten w\u00fcrden, nicht mit den entsprechenden Unternehmen in Kontakt zu treten. Jeweils 39 Prozent w\u00fcrden bei fragw\u00fcrdigen Entscheidungen eine Erkl\u00e4rung verlangen, beziehungsweise auch h\u00f6here Kosten in Kauf nehmen, um zu einem menschlichen Ansprechpartner zu wechseln. \u00dcber ein Viertel der Verbraucher (27 Prozent) w\u00fcrde den Kontakt zur entsprechenden Organisation abbrechen. Rechenschaft f\u00fcr F\u00fchrungskr\u00e4fte in ethischen Belangen etablieren Unternehmen sollten gem\u00e4\u00df der Studie eine verantwortliche F\u00fchrungskraft, etwa einen Chief Ethics Officer, etablieren, um ethisch robuste KI-Systeme sicherzustellen. Momentan ist diese Funktion in 53 Prozent der Unternehmen vorhanden. \u00dcber einen Ombudsmann oder eine Hotline, an die sich Kunden und Mitarbeiter bez\u00fcglich ethischer Fragen zu KI-Systemen wenden k\u00f6nnen, verf\u00fcgt ebenfalls nur jedes zweite Unternehmen. Zudem sollten auch F\u00fchrungskr\u00e4fte der Gesch\u00e4fts- wie Technologieebenen gew\u00e4hrleisten k\u00f6nnen, dass in ihrem Bereich eingesetzte KI-Anwendungen ethische Ergebnisse liefern. Zusammenfassend hebt die Studie sieben zentrale Ma\u00dfnahmen[4] hervor, die f\u00fcr den Aufbau eines ethisch robusten KI-Systems entscheidend sind und auf einem belastbaren Fundament aus F\u00fchrung, Steuerung („Governance“) und internen Prozessen basieren m\u00fcssen. Organisationen sollten daher: – den beabsichtigen Zweck des KI-Systems pr\u00e4zise beschreiben k\u00f6nnen und die potenzielle Gesamtwirkung ermitteln – KI aktiv zum Nutzen von Gesellschaft und Umwelt einsetzen – die Prinzipien von Vielfalt und Inklusion im gesamten Lebenszyklus der KI-Systeme verankern – die Transparenz mit Hilfe geeigneter Technologie-Werkzeuge optimieren – sicherstellen, dass KI-Erfahrungen auf den Menschen ausgerichtet sind und KI-Systeme unter menschlicher Aufsicht stehen – gew\u00e4hrleisten, dass KI-Systeme technisch robust sind – die Privatsph\u00e4re sch\u00fctzen, indem Nutzern die Kontrolle \u00fcber ihre KI-Interaktionen gegeben wird Fabian Schladitz, KI-Experte und Leiter des AI Center of Excellence bei Capgemini in Deutschland, bemerkt: „In Deutschland betrachten wir die ethischen Dimensionen von K\u00fcnstlicher Intelligenz h\u00e4ufig recht eindimensional und stark auf die Risikominimierung fokussiert. Dennoch treten KI-Anwendungen als App zur Gesichtsdekoration, als Stauvorhersage bei der Navigation oder als Gesichtserkennung in intelligenten Kameras vielfach in unser Leben, nur stammen sie dann aus einem anderen Land. Deutsche Unternehmer sollten daher die Chance ergreifen und das transformative Potential von KI nutzen, um gesellschaftlichen Nutzen zu stiften und gesellschaftliche Verantwortung zu \u00fcbernehmen. Dies wirkt sich nicht nur positiv auf die Reputation des Unternehmens aus, denn das Gelernte kann auch einen ma\u00dfgeblichen Beitrag zur Gesch\u00e4ftsentwicklung leisten. Die Studie liefert konkrete Vorschl\u00e4ge, wie wir Risiken begegnen und auf Regulierungsma\u00dfnahmen reagieren k\u00f6nnen, um uns langfristig einen Wettbewerbsvorteil zu sichern.“ [1] Europ\u00e4ische Kommission, „Ethics guidelines for trustworthy AI“, April 2019. [2] FTC.Gov, „Using Artificial Intelligence and Algorithms“, April 2020. [3] SSIR, „The Problem With COVID-19 Artificial Intelligence Solutions and How to Fix Them“, Juni 2020. [4] Die sieben Ma\u00dfnahmen leiten sich von den sieben Prinzipien f\u00fcr ethische KI ab, wie sie von der EU-Kommission definiert wurden. #### Die Studie, eine Infografik, die deutschen Ergebnisse sowie ein Bild des Zitatgebers stehen hier zum Download bereit: https:\/\/www.capgemini.com\/de-de\/news\/ki-ethik-ai-vertrauen-studie\/ #### Methodik F\u00fcr die Studie f\u00fchrte Capgemini von April bis Mai 2020 eine weltweite Umfrage unter Verbrauchern und F\u00fchrungskr\u00e4ften durch. Dazu wurden 2.900 Verbraucher in sechs L\u00e4ndern (China, Deutschland, Frankreich, Gro\u00dfbritannien, den Niederlanden und den USA) sowie 884 F\u00fchrungskr\u00e4fte (T\u00e4tigkeitsfelder: Informationstechnologie, KI-Entwickler, Datenwissenschaftler, Verkauf, Marketing und Kundendienst) in zehn L\u00e4ndern (zus\u00e4tzlich Indien, Italien, Schweden und Spanien) befragt. Die Ergebnisse wurden zudem mit den Ergebnissen verschiedener Studien aus dem Zeitraum von April bis Juni 2019 verglichen, an denen 5.000 Verbraucher und 722 F\u00fchrungskr\u00e4fte, darunter KI-Entwickler, Datenwissenschaftler, Vertriebs- und Marketingteams, teilgenommen haben. Weiterhin f\u00fchrte Capgemini von August bis September 2020 Tiefeninterviews mit einer Reihe von F\u00fchrungskr\u00e4ften, Wissenschaftlern und Fachleuten aus dem Bereich „Ethik und KI“ durch. \u00dcber Capgemini Capgemini ist einer der weltweit f\u00fchrenden Anbieter von Management- und IT-Beratung, Digitaler Transformation sowie Technologie- und Ingenieursdienstleistungen. Als ein Wegbereiter f\u00fcr Innovation unterst\u00fctzt das Unternehmen seine Kunden bei deren komplexen Herausforderungen rund um Cloud, Digital und Plattformen. Auf dem Fundament von mehr als 50 Jahren Erfahrung und umfangreichem branchenspezifischen Know-how hilft Capgemini seinen Kunden, ihre Gesch\u00e4ftsziele zu erreichen. Hierf\u00fcr steht ein komplettes Leistungsspektrum von der Strategieentwicklung bis zum Gesch\u00e4ftsbetrieb zur Verf\u00fcgung. Capgemini ist \u00fcberzeugt davon, dass der gesch\u00e4ftliche Wert von Technologie durch Menschen entsteht, und agiert als ein multikulturelles Unternehmen mit 270.000 Mitarbeiterinnen sowie Mitarbeitern in fast 50 L\u00e4ndern. Einschlie\u00dflich Altran bel\u00e4uft sich der Umsatz f\u00fcr das Jahr 2019 auf 17 Milliarden Euro. Mehr unter http:\/\/www.capgemini.com\/de . People matter, results count. \u00dcber das Capgemini Research Institute Das Capgemini Research Institute ist Capgeminis hauseigener Think-Tank in digitalen Angelegenheiten. Das Institut ver\u00f6ffentlicht Forschungsarbeiten \u00fcber den Einfluss digitaler Technologien auf gro\u00dfe Unternehmen. Das Team greift dabei auf das weltweite Netzwerk von Capgemini-Experten zur\u00fcck und arbeitet eng mit akademischen und technologischen Partnern zusammen. Das Institut hat Forschungszentren in Gro\u00dfbritannien, Indien und den USA. Pressekontakt: Daniel Hardt Capgemini Germany | Munich Tel.: +49 89 38338-2873 mailto:daniel.hardt@capgemini.com Olof-Palme-Stra\u00dfe 14, 81829 Munich, Germany Weiteres Material: http:\/\/presseportal.de\/pm\/16952\/4721902 OTS: Capgemini Original-Content von: Capgemini, \u00fcbermittelt durch news aktuell<\/p>\n