lnu.sePublikationer
Ändra sökning
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf
Visual Analytics for Explainable and Trustworthy Machine Learning
Linnéuniversitetet, Fakulteten för teknik (FTK), Institutionen för datavetenskap och medieteknik (DM). (ISOVIS)ORCID-id: 0000-0002-9079-2376
2023 (Engelska)Doktorsavhandling, monografi (Övrigt vetenskapligt)
Abstract [en]

The deployment of artificial intelligence solutions and machine learning research has exploded in popularity in recent years, with numerous types of models proposed to interpret and predict patterns and trends in data from diverse disciplines. However, as the complexity of these models grows, it becomes increasingly difficult for users to evaluate and rely on the model results, since their inner workings are mostly hidden in black boxes, which are difficult to trust in critical decision-making scenarios. While automated methods can partly handle these problems, recent research findings suggest that their combination with innovative methods developed within information visualization and visual analytics can lead to further insights gained from models and, consequently, improve their predictive ability and enhance trustworthiness in the entire process. Visual analytics is the area of research that studies the analysis of vast and intricate information spaces by combining statistical and machine learning models with interactive visual interfaces. By following this methodology, human experts can better understand such spaces and apply their domain expertise in the process of building and improving the underlying models.

The primary goals of this dissertation are twofold, focusing on (1) methodological aspects, by conducting qualitative and quantitative meta-analyses to support the visualization research community in making sense of its literature and to highlight unsolved challenges, as well as (2) technical solutions, by developing visual analytics approaches for various machine learning models, such as dimensionality reduction and ensemble learning methods. Regarding the first goal, we define, categorize, and examine in depth the means for visual coverage of the different trust levels at each stage of a typical machine learning pipeline and establish a design space for novel visualizations in the area. Regarding the second goal, we discuss multiple visual analytics tools and systems implemented by us to facilitate the underlying research on the various stages of the machine learning pipeline, i.e., data processing, feature engineering, hyperparameter tuning, understanding, debugging, refining, and comparing models. Our approaches are data-agnostic, but mainly target tabular data with meaningful attributes in diverse domains, such as health care and finance. The applicability and effectiveness of this work were validated with case studies, usage scenarios, expert interviews, user studies, and critical discussions of limitations and alternative designs. The results of this dissertation provide new avenues for visual analytics research in explainable and trustworthy machine learning.

Abstract [sv]

Användningen av artificiell intelligens och maskininlärning har exploderat i popularitet de senaste åren, med många olika typer av modeller för att tolka och förutse mönster och trender i data från olika områden. Ju mer komplexa dessa modeller blir, desto vanligare är det att de behandlas som “svarta lådor” vilka inte medger någon insyn i hur ett visst utfall har beräknats. Detta gör det svårt för användare att utvärdera och lita på resultaten, vilket i sin tur försvårar användning i situationer där beslut av vikt ska fattas. Även om automatiserade metoder delvis kan hantera denna problematik, tyder de senaste forskningsresultaten på att dessa också bör kombineras med innovativa metoder inom informationsvisualisering och visuell analys för att ge bästa effekt. Denna kombination kan ge fördjupade insikter som kan användas för att förbättra modellernas förmåga samt för att öka tillförlitligheten i, och förtroendet för, den övergripande processen. Inom forskningsområdet visuell analys kombineras statistiska modeller och maskininlärning med interaktiva visuella gränssnitt, vilket möjliggör för domänexperter att analysera stora och komplexa datamängder, samt ger dem möjlighet att använda sina expertkunskaper för att utveckla och förbättra de underliggande modellerna.

De två huvudmålen för denna avhandling är att: (1) fokusera på metodologiska aspekter genom kvalitativa och kvantitativa metaanalyser i syfte att hjälpa forskare inom området att överblicka existerande litteratur och i syfte att lyfta fram kvarvarande utmaningar, samt (2) fokusera på tekniska lösningar genom att utveckla visuella analysmetoder för olika maskininlärningsmodeller, såsom dimensionsreducering och ensembleinlärning. För att uppnå det första målet definierar, kategoriserar och detaljgranskar vi former för visuell representation av tillförlitlighet i existerande maskininlärningsramverk, och utifrån detta formulerar vi riktlinjer för design av nya visualiseringar inom området. För att uppnå det andra målet diskuterar vi flera av våra egenutvecklade visuella analysverktyg och system, som utvecklats i syfte att möjliggöra specifik forskning på de olika stegen i ett generellt maskininlärningsramverk (vilket typiskt består av: databehandling, dataförädling, inställning av parametrar, förståelse, felsökning, förbättring, samt jämförelse av olika modeller). Våra metoder kan appliceras på många olika typer av data, men riktar sig främst mot data i tabellformat från områden såsom hälsovård och finans. Tillämplighet och relevans har validerats med hjälp av fallstudier, användningsfall, intervjuer med experter, användarstudier och diskussioner rörande begränsningar och möjliga alternativa designlösningar. Innehållet i denna avhandling öppnar upp nya inriktningar för forskning i visuell analys inom förklarlig och pålitlig maskininlärning.

Ort, förlag, år, upplaga, sidor
Växjö, Sweden: Linnaeus University Press, 2023. , s. 360
Serie
Linnaeus University Dissertations ; 482
Nyckelord [en]
visualization, interaction, visual analytics, explainable machine learning, XAI, trustworthy machine learning, ensemble learning, dimensionality reduction, supervised learning, unsupervised learning, ML, AI, tabular data
Nyckelord [sv]
visualisering, interaktion, visuell analys, förklarlig maskininlärning, XAI, pålitlig maskininlärning, ensembleinlärning, dimensionesreducering, övervakad inlärning, oövervakad inlärning, ML, AI, tabelldata
Nationell ämneskategori
Datavetenskap (datalogi) Människa-datorinteraktion (interaktionsdesign)
Forskningsämne
Data- och informationsvetenskap, Datavetenskap; Datavetenskap, Informations- och programvisualisering
Identifikatorer
URN: urn:nbn:se:lnu:diva-118794DOI: 10.15626/LUD.482.2023ISBN: 9789189709942 (tryckt)ISBN: 9789189709959 (digital)OAI: oai:DiVA.org:lnu-118794DiVA, id: diva2:1731716
Disputation
2023-02-23, Weber, Hus K, Växjö, 09:00 (Engelska)
Opponent
Handledare
Tillgänglig från: 2023-01-30 Skapad: 2023-01-27 Senast uppdaterad: 2024-03-13Bibliografiskt granskad

Open Access i DiVA

achatzimparmpas-dissertation-2023(243813 kB)1052 nedladdningar
Filinformation
Filnamn FULLTEXT03.pdfFilstorlek 243813 kBChecksumma SHA-512
8034d87d5fd2fa1724f47e3e8104618b151f7af8ff6b334efcae7b87abd68a399ef4642bd8e7725b7827ad28a00be37ff16e90feacb10e0684f5f04d38e5817c
Typ fulltextMimetyp application/pdf

Övriga länkar

Förlagets fulltextBuy Book (SEK 250 + VAT and postage) lnupress@lnu.se

Person

Chatzimparmpas, Angelos

Sök vidare i DiVA

Av författaren/redaktören
Chatzimparmpas, Angelos
Av organisationen
Institutionen för datavetenskap och medieteknik (DM)
Datavetenskap (datalogi)Människa-datorinteraktion (interaktionsdesign)

Sök vidare utanför DiVA

GoogleGoogle Scholar
Totalt: 1052 nedladdningar
Antalet nedladdningar är summan av nedladdningar för alla fulltexter. Det kan inkludera t.ex tidigare versioner som nu inte längre är tillgängliga.

doi
isbn
urn-nbn

Altmetricpoäng

doi
isbn
urn-nbn
Totalt: 4308 träffar
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf