Forklarbar kunstig intelligens

Hvorfor transparent, forklarbar AI er vigtig indenfor medicin (engelsk tale)

Inden for kunstig intelligens (AI,KI) er forklarbar kunstig intelligens eller forklarbar AI (XAI), ofte overlappende med fortolkbar AI eller forklarbar maskinlæring (XML), et forskningsfelt, der udforsker metoder, der giver mennesker mulighed for intellektuelt overblik over AI-algoritmer. Hovedfokus er på ræsonnementet bag de beslutninger eller forudsigelser, der træffes af AI-algoritmerne, for at gøre dem mere forståelige og gennemsigtige. Dette imødekommer brugernes behov for at vurdere sikkerhed og granske den automatiserede beslutningstagning i applikationer. XAI modvirker "black box"-tendensen ved maskinlæring, hvor selv AI'ens designere ikke kan forklare, hvorfor AI er nået frem til en bestemt beslutning.

XAI håber at hjælpe brugere af AI-drevne systemer med at præstere mere effektivt ved at forbedre deres forståelse af, hvordan disse systemer ræsonnerer. XAI kan være en implementering af den sociale ret til forklaring. Selv hvis der ikke er en sådan juridisk ret eller et sådant lovgivningsmæssigt krav, kan XAI forbedre brugeroplevelsen af et produkt eller en tjeneste ved at hjælpe slutbrugerne med at stole på, at AI'en træffer gode beslutninger. EU-borgere har en juridisk ret til forklarbar AI, hvis det fx anvendes til sagsbehandling. XAI har til formål at forklare, hvad der er blevet gjort, hvad der bliver gjort, og hvad der vil blive gjort herefter, og at afdække, hvilke oplysninger disse handlinger er baseret på. Dette gør det muligt at bekræfte eksisterende viden, udfordre eksisterende viden og generere nye antagelser.

Se også

Referencer

  1. ↑ Longo, Luca; et al. (2024). "Explainable Artificial Intelligence (XAI) 2.0: A manifesto of open challenges and interdisciplinary research directions". Information Fusion. 106. arXiv:2310.19775. doi:10.1016/j.inffus.2024.102301.
  2. ↑ Mihály, Héder (2023). "Explainable AI: A Brief History of the Concept" (PDF). ERCIM News (134): 9-10.
  3. ↑ Phillips, P. Jonathon; Hahn, Carina A.; Fontana, Peter C.; Yates, Amy N.; Greene, Kristen; Broniatowski, David A.; Przybocki, Mark A. (2021-09-29). "Four Principles of Explainable Artificial Intelligence". NIST. doi:10.6028/nist.ir.8312.
  4. ↑ Vilone, Giulia; Longo, Luca (2021). "Notions of explainability and evaluation approaches for explainable artificial intelligence". Information Fusion. December 2021 - Volume 76: 89-106. doi:10.1016/j.inffus.2021.05.009.
  5. ↑ Confalonieri, Roberto; Coba, Ludovik; Wagner, Benedikt; Besold, Tarek R. (januar 2021). "A historical perspective of explainable Artificial Intelligence". WIREs Data Mining and Knowledge Discovery (engelsk). 11 (1). doi:10.1002/widm.1391. hdl:11577/3471605. ISSN 1942-4787.
  6. ↑ Castelvecchi, Davide (2016-10-06). "Can we open the black box of AI?". Nature (engelsk). 538 (7623): 20-23. Bibcode:2016Natur.538...20C. doi:10.1038/538020a. ISSN 0028-0836. PMID 27708329. S2CID 4465871.
  7. ↑ Sample, Ian (5. november 2017). "Computer says no: why making AIs fair, accountable and transparent is crucial". The Guardian (engelsk). Hentet 30. januar 2018.
  8. ↑ Alizadeh, Fatemeh (2021). "I Don't Know, Is AI Also Used in Airbags?: An Empirical Study of Folk Concepts and People's Expectations of Current and Future Artificial Intelligence". Icom. 20 (1): 3-17. doi:10.1515/icom-2021-0009. S2CID 233328352.
  9. ↑ Edwards, Lilian; Veale, Michael (2017). "Slave to the Algorithm? Why a 'Right to an Explanation' Is Probably Not the Remedy You Are Looking For". Duke Law and Technology Review. 16: 18. SSRN 2972855.
  10. 1 2 digital-strategy.ec.europa.eu: Forordningen om kunstig intelligens, backup Citat: "...Formålet med reglerne er at fremme pålidelig kunstig intelligens i Europa. Forordningen om kunstig intelligens fastsætter et klart sæt risikobaserede regler for udviklere og udbredere af kunstig intelligens vedrørende specifikke anvendelser af kunstig intelligens...Forordningen om kunstig intelligens sikrer, at europæerne kan have tillid til, hvad kunstig intelligens har at tilbyde. Selv om de fleste AI-systemer udgør en begrænset eller ingen risiko og kan bidrage til at løse mange samfundsmæssige udfordringer, skaber visse AI-systemer risici, som vi skal imødegå for at undgå uønskede resultater..."
  11. ↑ Do Couto, Mark (22. februar 2024). "Entering the Age of Explainable AI". TDWI. Hentet 2024-09-11.
  12. ↑ Gunning, D.; Stefik, M.; Choi, J.; Miller, T.; Stumpf, S.; Yang, G.-Z. (2019-12-18). "XAI-Explainable artificial intelligence". Science Robotics (engelsk). 4 (37): eaay7120. doi:10.1126/scirobotics.aay7120. ISSN 2470-9476. PMID 33137719.
  13. ↑ Rieg, Thilo; Frick, Janek; Baumgartl, Hermann; Buettner, Ricardo (2020-12-17). "Demonstration of the potential of white-box machine learning approaches to gain insights from cardiovascular disease electrocardiograms". PLOS ONE (engelsk). 15 (12): e0243615. Bibcode:2020PLoSO..1543615R. doi:10.1371/journal.pone.0243615. ISSN 1932-6203. PMC 7746264. PMID 33332440.

Eksterne henvisninger