{"id":26149,"date":"2019-04-23T12:39:34","date_gmt":"2019-04-23T10:39:34","guid":{"rendered":"https:\/\/pitss.org\/de\/?p=26149"},"modified":"2019-08-12T10:17:55","modified_gmt":"2019-08-12T08:17:55","slug":"ki-dokumentation","status":"publish","type":"post","link":"https:\/\/pitss.org\/de\/ki-dokumentation\/","title":{"rendered":"KI kann Leben retten… bei guter Dokumentation"},"content":{"rendered":"

[et_pb_section bb_built=“1″ fullwidth=“on“ _builder_version=“3.2.2″ background_image=“https:\/\/pitss.org\/de\/wp-content\/uploads\/sites\/9\/2017\/08\/blog-1-header-v2-min.jpg“ next_background_color=“#ffffff“ inner_width=“auto“ inner_max_width=“none“][et_pb_fullwidth_header title=“Projekt Digital“ subhead=“Der Blog f\u00fcr digitale Business Leader“ text_orientation=“center“ background_overlay_color=“rgba(0,0,0,0.53)“ _builder_version=“3.22.4″ title_font_size=“36px“ subhead_font_size=“22px“ max_width_tablet=“50px“ title_font=“|700|||||||“ title_level=“h2″ background_color=“rgba(255, 255, 255, 0)“ button_one_text_size__hover_enabled=“off“ button_one_text_size__hover=“null“ button_two_text_size__hover_enabled=“off“ button_two_text_size__hover=“null“ button_one_text_color__hover_enabled=“off“ button_one_text_color__hover=“null“ button_two_text_color__hover_enabled=“off“ button_two_text_color__hover=“null“ button_one_border_width__hover_enabled=“off“ button_one_border_width__hover=“null“ button_two_border_width__hover_enabled=“off“ button_two_border_width__hover=“null“ button_one_border_color__hover_enabled=“off“ button_one_border_color__hover=“null“ button_two_border_color__hover_enabled=“off“ button_two_border_color__hover=“null“ button_one_border_radius__hover_enabled=“off“ button_one_border_radius__hover=“null“ button_two_border_radius__hover_enabled=“off“ button_two_border_radius__hover=“null“ button_one_letter_spacing__hover_enabled=“off“ button_one_letter_spacing__hover=“null“ button_two_letter_spacing__hover_enabled=“off“ button_two_letter_spacing__hover=“null“ button_one_bg_color__hover_enabled=“off“ button_one_bg_color__hover=“null“ button_two_bg_color__hover_enabled=“off“ button_two_bg_color__hover=“null“ \/][\/et_pb_section][et_pb_section bb_built=“1″ specialty=“on“ background_position_1=“top_left“ background_position_2=“top_left“ background_repeat_1=“no-repeat“ background_repeat_2=“no-repeat“ _builder_version=“3.26.3″ prev_background_color=“#000000″ next_background_color=“#000000″ box_shadow_horizontal_tablet=“0px“ box_shadow_vertical_tablet=“0px“ box_shadow_blur_tablet=“40px“ box_shadow_spread_tablet=“0px“ z_index_tablet=“500″][et_pb_column type=“3_4″ specialty_columns=“3″][et_pb_row_inner admin_label=“Row“ _builder_version=“3.12.2″][et_pb_column_inner type=“4_4″ saved_specialty_column_type=“3_4″ custom_padding__hover=“|||“ custom_padding=“|||“ saved_specialty_column_type=“3_4″][et_pb_text _builder_version=“3.22.7″ module_alignment=“left“ header_3_font_size=“20px“ text_text_shadow_horizontal_length=“text_text_shadow_style,%91object Object%93″ text_text_shadow_vertical_length=“text_text_shadow_style,%91object Object%93″ text_text_shadow_blur_strength=“text_text_shadow_style,%91object Object%93″ link_text_shadow_horizontal_length=“link_text_shadow_style,%91object Object%93″ link_text_shadow_vertical_length=“link_text_shadow_style,%91object Object%93″ link_text_shadow_blur_strength=“link_text_shadow_style,%91object Object%93″ ul_text_shadow_horizontal_length=“ul_text_shadow_style,%91object Object%93″ ul_text_shadow_vertical_length=“ul_text_shadow_style,%91object Object%93″ ul_text_shadow_blur_strength=“ul_text_shadow_style,%91object Object%93″ ol_text_shadow_horizontal_length=“ol_text_shadow_style,%91object Object%93″ ol_text_shadow_vertical_length=“ol_text_shadow_style,%91object Object%93″ ol_text_shadow_blur_strength=“ol_text_shadow_style,%91object Object%93″ quote_text_shadow_horizontal_length=“quote_text_shadow_style,%91object Object%93″ quote_text_shadow_vertical_length=“quote_text_shadow_style,%91object Object%93″ quote_text_shadow_blur_strength=“quote_text_shadow_style,%91object Object%93″ header_text_shadow_horizontal_length=“header_text_shadow_style,%91object Object%93″ header_text_shadow_vertical_length=“header_text_shadow_style,%91object Object%93″ header_text_shadow_blur_strength=“header_text_shadow_style,%91object Object%93″ header_2_text_shadow_horizontal_length=“header_2_text_shadow_style,%91object Object%93″ header_2_text_shadow_vertical_length=“header_2_text_shadow_style,%91object Object%93″ header_2_text_shadow_blur_strength=“header_2_text_shadow_style,%91object Object%93″ header_3_text_shadow_horizontal_length=“header_3_text_shadow_style,%91object Object%93″ header_3_text_shadow_vertical_length=“header_3_text_shadow_style,%91object Object%93″ header_3_text_shadow_blur_strength=“header_3_text_shadow_style,%91object Object%93″ header_4_text_shadow_horizontal_length=“header_4_text_shadow_style,%91object Object%93″ header_4_text_shadow_vertical_length=“header_4_text_shadow_style,%91object Object%93″ header_4_text_shadow_blur_strength=“header_4_text_shadow_style,%91object Object%93″ header_5_text_shadow_horizontal_length=“header_5_text_shadow_style,%91object Object%93″ header_5_text_shadow_vertical_length=“header_5_text_shadow_style,%91object Object%93″ header_5_text_shadow_blur_strength=“header_5_text_shadow_style,%91object Object%93″ header_6_text_shadow_horizontal_length=“header_6_text_shadow_style,%91object Object%93″ header_6_text_shadow_vertical_length=“header_6_text_shadow_style,%91object Object%93″ header_6_text_shadow_blur_strength=“header_6_text_shadow_style,%91object Object%93″ z_index_tablet=“500″]<\/p>\n

KI kann Leben retten… bei guter Dokumentation<\/h1>\n

Wie das Online-Magazin Daily Campus berichtet, wird seit kurzem eine selbstlernende KI als diagnostisches Hilfsmittel f\u00fcr Tuberkulose und HIV eingesetzt. Forscher geben Daten in das System ein und erhalten anschlie\u00dfend die Information dar\u00fcber, ob ein Patient die Krankheit hat oder nicht. Ist das ein Meilenstein in Sachen praktische Anwendung von KI in der Medizin oder m\u00fcssen wir uns mit der Euphorie noch zur\u00fcckhalten? Vieles h\u00e4ngt bei dieser Frage von der Dokumentation ab!<\/strong><\/p>\n

\"\"<\/p>\n

Im genannten Fall hatte der Computer auf den ersten Blick exzellente Arbeit geleistet. Allerdings war dabei der genaue Mechanismus unbekannt, denn die KI verwendete einen „Blackbox“-Algorithmus. \u00c4hnlich wie in Bezug auf weite Teile des menschlichen Hirns, fehlen den Forschern also Informationen dar\u00fcber, wie der Algorithmus \u2013 und damit die Verarbeitung der verf\u00fcgbaren Daten \u2013 \u00fcberhaupt aussieht.<\/p>\n

Nicht jedes Wissen ist richtiges Wissen<\/h2>\n

Analysten fanden heraus, dass die Maschine eine sogenannte Top-down-Verarbeitung der Bilder verwendete, was bedeutet, dass auch Wissen von au\u00dferhalb der Merkmale des eigentlichen Problems miteinbezogen wurde. Mit anderen Worten nutzte das System Informationen, die nicht bewusst durch die Forscher zur Verarbeitung eingegeben wurden.<\/p>\n

In diesem Fall wertete der Computer Informationen dar\u00fcber aus, welche Art von R\u00f6ntgenbild zur Erstellung des Bildes verwendet wurde \u2013 ein Umstand, der mit dem Patienten selbst erst einmal nichts zu tun hat.<\/p>\n

\n

Ergebnisse k\u00f6nnen nur \u00fcberpr\u00fcft werden, wenn Sie nachvollziehbar sind<\/h3>\n<\/blockquote>\n

Cynthia Rudin, Professorin f\u00fcr Computerwissenschaften an der Duke University, gibt zu bedenken, dass Blackboxes durchaus problematisch seien und dass eine bessere L\u00f6sung darin best\u00fcnde, ausschlie\u00dflich erkl\u00e4rbare Modelle zu verwenden. Vor Allem argumentierte sie dabei damit, dass es f\u00fcr Mediziner nur dann zweifelsfrei m\u00f6glich sei, die Ergebnisse der Arbeit seri\u00f6s zu \u00fcberpr\u00fcfen, wenn der Algorithmus nachvollziehbar auf klinischem Wissen aufgebaut wird.<\/p>\n

Unzureichende Dokumentation kann Leben zerst\u00f6ren<\/h2>\n

Auch Au\u00dferhalb der Medizin wurden in der Vergangenheit bereits Blackbox-Modelle eingesetzt. Im Bereich der Strafjustiz etwa wurden sie zur Ermittlung von Risikobewertungen von Kriminellen herangezogen. Im Bereich der Kriminologie ergab eine Post-mortem-Analyse jedoch, dass die KI \u201eCOMPAS\u201c, die dazu bestimmt war, das kriminelle Risiko unabh\u00e4ngig von Vorurteilen zu bewerten, europ\u00e4isch-amerikanische Kriminelle schlechter bewertete als sie es bei Afroamerikanern tat. Der Fehler lag hier zum Teil lediglich in der Kodierung bestimmter Verbrechenskategorien. Nicht ausschlie\u00dflich in der Medizin, sondern auch in einem solchen Fall ist nur mit ausreichender Dokumentation sichergestellt, dass Fehler gefunden und eliminiert werden k\u00f6nnen.<\/p>\n

Eine wichtige Herangehensweise f\u00fcr die Wissenschaft ist die Replizierbarkeit oder das Prinzip, dass theoretisch ein anderer Wissenschaftler die gleichen Verfahren anwenden k\u00f6nnte und in der Lage w\u00e4re, Beweise daf\u00fcr zu liefern, ob der signifikante Befund der Wahrheit entspricht oder nicht.<\/p>\n

Die \u00dcberpr\u00fcfung, ob die Blackbox der KI eine richtige Entscheidung getroffen hat, ist jedoch kaum m\u00f6glich, da es kein Verfahren gibt, das angewendet werden kann, um sicherzustellen, dass das Ergebnis korrekt ist. Au\u00dfer aber, es w\u00fcrden jedes Mal dar\u00fcber hinaus konventionelle Tests durchgef\u00fchrt, um versehentliche Fehldiagnosen zu vermeiden. Das jedoch w\u00fcrde die Idee, mithilfe von KI schnellere und zuverl\u00e4ssige Erkenntnisse zu erlangen, ad absurdum f\u00fchren.<\/p>\n

Wenn die Menschen das Verfahren dahingegen nicht verifizieren und die Analyse best\u00e4tigen k\u00f6nnen, w\u00e4ren die \u00c4rzte gezwungen, die Analyse zu akzeptieren und somit ihre Behandlung auf Grundlage der Entscheidungen einer Maschine zu treffen. Letzteres d\u00fcrfte jedoch nicht nur behandelnden \u00c4rzten, sondern insbesondere auch Patienten nicht gefallen.<\/p>\n

K\u00fcnstliche Intelligenz muss kontrollierbar bleiben<\/h2>\n

Erst eine ordentliche und nachvollziehbare Dokumentation erm\u00f6glicht es dem Menschen, die relevanten Daten zu verifizieren. Ebenso erm\u00f6glicht die Dokumentation Analysten, dieselben Daten zu verwenden, um vergleichbare Ergebnisse zu reproduzieren und implizite Verzerrungen zu erkennen, die nicht von den Programmierern ber\u00fccksichtigt wurden oder so nicht vorgesehen waren. Gleiches gilt f\u00fcr die Nachvollziehbarkeit der angewandten Methodik, die die KI nutzt, um zum Ergebnis zu kommen.<\/p>\n

Noch ist k\u00fcnstliche Intelligenz ohnehin nicht weit genug entwickelt, um den Menschen bei Entscheidungen von hoher Wichtigkeit zu ersetzen. Die zunehmende Komplexit\u00e4t von Daten und Rechenprozessen zeigt jedoch, wie enorm wichtig eine nachvollziehbare Dokumentation ist, um seiner Daten Herr zu bleiben und darauf basierend sinnvolle und logische Entscheidungen treffen zu k\u00f6nnen.<\/p>\n

[\/et_pb_text][\/et_pb_column_inner][\/et_pb_row_inner][\/et_pb_column][et_pb_column type=“1_4″][et_pb_search exclude_pages=“on“ exclude_posts=“off“ include_categories=“118,189,147,199,19,173,175,176,5,112,180,18,150,141,153,142,200,144,190,80,185,177,137,159,96,161,99,113,191,192,201,25,162,202,203,82,97,105,106,151,107,108,194,193,156,186,154,121,100,3,69,148,195,85,131,170,115,86,160,87,145,117,196,114,138,2,133,83,164,165,98,143,139,109,157,166,110,158,111,102,167,155,168,197,163,84,101,4,171,204,140,116,178,174,136,187,179,103,1,198,172,152,169,188,91,104,92,149″ placeholder=“Artikel suchen“ button_color=“#006bb3″ _builder_version=“3.17.1″ button_text_color=“#ffffff“ module_alignment=“left“ hide_button=“off“ show_button=“off“ button_text_size__hover_enabled=“off“ button_text_size__hover=“null“ button_one_text_size__hover_enabled=“off“ button_one_text_size__hover=“null“ button_two_text_size__hover_enabled=“off“ button_two_text_size__hover=“null“ button_text_color__hover_enabled=“off“ button_text_color__hover=“null“ button_one_text_color__hover_enabled=“off“ button_one_text_color__hover=“null“ button_two_text_color__hover_enabled=“off“ button_two_text_color__hover=“null“ button_border_width__hover_enabled=“off“ button_border_width__hover=“null“ button_one_border_width__hover_enabled=“off“ button_one_border_width__hover=“null“ button_two_border_width__hover_enabled=“off“ button_two_border_width__hover=“null“ button_border_color__hover_enabled=“off“ button_border_color__hover=“null“ button_one_border_color__hover_enabled=“off“ button_one_border_color__hover=“null“ button_two_border_color__hover_enabled=“off“ button_two_border_color__hover=“null“ button_border_radius__hover_enabled=“off“ button_border_radius__hover=“null“ button_one_border_radius__hover_enabled=“off“ button_one_border_radius__hover=“null“ button_two_border_radius__hover_enabled=“off“ button_two_border_radius__hover=“null“ button_letter_spacing__hover_enabled=“off“ button_letter_spacing__hover=“null“ button_one_letter_spacing__hover_enabled=“off“ button_one_letter_spacing__hover=“null“ button_two_letter_spacing__hover_enabled=“off“ button_two_letter_spacing__hover=“null“ button_bg_color__hover_enabled=“off“ button_bg_color__hover=“null“ button_one_bg_color__hover_enabled=“off“ button_one_bg_color__hover=“null“ button_two_bg_color__hover_enabled=“off“ button_two_bg_color__hover=“null“ form_field_font_size=“14px“ form_field_letter_spacing=“0px“ form_field_line_height=“1em“ form_field_text_shadow_horizontal_length=“0em“ form_field_text_shadow_vertical_length=“0em“ form_field_text_shadow_blur_strength=“0em“ form_field_text_shadow_color=“rgba(0,0,0,0.4)“ form_field_text_shadow_style=“none“ \/][et_pb_sidebar orientation=“right“ area=“et_pb_widget_area_1″ _builder_version=“3.0.74″ \/][et_pb_button button_url=“https:\/\/pitss.org\/de\/techblog“ button_text=“\u2191 Zur\u00fcck zur \u00dcbersicht“ button_alignment=“center“ _builder_version=“3.0.74″ custom_button=“on“ button_text_size=“16″ button_text_color=“#9b9b9b“ button_border_color=“#d2d2d2″ button_letter_spacing=“0″ button_text_size__hover_enabled=“off“ button_text_size__hover=“null“ button_one_text_size__hover_enabled=“off“ button_one_text_size__hover=“null“ button_two_text_size__hover_enabled=“off“ button_two_text_size__hover=“null“ button_text_color__hover_enabled=“off“ button_text_color__hover=“null“ button_one_text_color__hover_enabled=“off“ button_one_text_color__hover=“null“ button_two_text_color__hover_enabled=“off“ button_two_text_color__hover=“null“ button_border_width__hover_enabled=“off“ button_border_width__hover=“null“ button_one_border_width__hover_enabled=“off“ button_one_border_width__hover=“null“ button_two_border_width__hover_enabled=“off“ button_two_border_width__hover=“null“ button_border_color__hover_enabled=“off“ button_border_color__hover=“null“ button_one_border_color__hover_enabled=“off“ button_one_border_color__hover=“null“ button_two_border_color__hover_enabled=“off“ button_two_border_color__hover=“null“ button_border_radius__hover_enabled=“off“ button_border_radius__hover=“null“ button_one_border_radius__hover_enabled=“off“ button_one_border_radius__hover=“null“ button_two_border_radius__hover_enabled=“off“ button_two_border_radius__hover=“null“ button_letter_spacing__hover_enabled=“off“ button_letter_spacing__hover=“null“ button_one_letter_spacing__hover_enabled=“off“ button_one_letter_spacing__hover=“null“ button_two_letter_spacing__hover_enabled=“off“ button_two_letter_spacing__hover=“null“ button_bg_color__hover_enabled=“off“ button_bg_color__hover=“null“ button_one_bg_color__hover_enabled=“off“ button_one_bg_color__hover=“null“ button_two_bg_color__hover_enabled=“off“ button_two_bg_color__hover=“null“ \/][\/et_pb_column][\/et_pb_section][et_pb_section bb_built=“1″ _builder_version=“3.5.1″ prev_background_color=“#000000″ disabled=“on“ disabled_on=“on|on|on“ inner_width=“auto“ inner_max_width=“none“][et_pb_row _builder_version=“3.0.47″ background_size=“initial“ background_position=“top_left“ background_repeat=“repeat“][et_pb_column type=“4_4″][et_pb_comments _builder_version=“3.0.91″ header_level=“h2″ header_font=“|700|||||||“ border_style=“solid“ border_style_all=“solid“ \/][\/et_pb_column][\/et_pb_row][\/et_pb_section]<\/p>\n","protected":false},"excerpt":{"rendered":"

KI kann Leben retten… bei guter Dokumentation Wie das Online-Magazin Daily Campus berichtet, wird seit kurzem eine selbstlernende KI als diagnostisches Hilfsmittel f\u00fcr Tuberkulose und HIV eingesetzt. Forscher geben Daten in das System ein und erhalten anschlie\u00dfend die Information dar\u00fcber, ob ein Patient die Krankheit hat oder nicht. Ist das ein Meilenstein in Sachen praktische Anwendung von KI in der Medizin […]<\/p>\n","protected":false},"author":1,"featured_media":26646,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"on","_et_pb_old_content":"","_et_gb_content_width":"","footnotes":""},"categories":[3,212],"tags":[386,310,385,372],"class_list":["post-26149","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-home-page-featured","category-projekt-digital","tag-ai","tag-dokumentation","tag-ki","tag-softwaredokumentation"],"_links":{"self":[{"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/posts\/26149","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/comments?post=26149"}],"version-history":[{"count":8,"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/posts\/26149\/revisions"}],"predecessor-version":[{"id":27537,"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/posts\/26149\/revisions\/27537"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/media\/26646"}],"wp:attachment":[{"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/media?parent=26149"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/categories?post=26149"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pitss.org\/de\/wp-json\/wp\/v2\/tags?post=26149"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}