#146 Zwischen Innovation, Verantwortung und Zukunft: KI in der Wehrverwaltung

00:00:01:

00:00:11: Herzlich willkommen zu einer neuen Podcast-Polge des Podcasts Die Lage der Podcast des Deutschen Bundeswehrverbandes.

00:00:17: Mein Name ist Eva Krämer, ich bin Redakteurin beim Deutsche Bundeswehr Verband und ich sitze hier mit gleich drei Gästen heute einmal mit Bernd Kaufmann, Vorsitzender Zivile Beschäftigte im Bundesvorstand.

00:00:29: Bernd worum geht es heute?

00:00:31: Ja, hallo Eva.

00:00:32: Hallo in die Runde!

00:00:34: Der Fachbereich Zivile Beschäftigte hat auch das Thema Künstliche Intelligenz auf dem Schirm.

00:00:39: Wir wollen uns heute mal darüber unterhalten künstlicheintelligenz in der Werferwaltung zwischen Information Verantwortung und Zukunft.

00:00:48: Da bin ich nicht der Player und der größte im Raume sondern Ich habe mir zwei Gäste eingeladen für unseren Fachbereich Einmal die Melanie Haschberger Die auch meine Vertreterin ist in der AG Bei uns bei den Zivilen.

00:01:03: Melanie, herzlich willkommen!

00:01:04: Danke für die Einladung und den obersten Anbrennenstuhl.

00:01:08: Vielen Dank, dass Sie Zeit hatten aus dem Ministerium heraus hier an diesem Podcast teilzunehmen.

00:01:13: Ja,

00:01:13: danke für Ihre Einladungen.

00:01:14: Gut, Melanie, dann you have it.

00:01:17: Ja, dann würde ich noch mal so kurz für alle nochmal einsteigen.

00:01:20: Künstliche Intelligenz ist ja längst keine Zukunftsmusik mehr – ob in der Wirtschaft öffentliche Verwaltung oder private Alltag.

00:01:26: KI verändert bereits heute die Art und Weise wie wir Informationen verarbeiten, Entscheidungen vorbereiten und zusammenarbeiten.

00:01:34: Und auch die Bundeswehr-und die Wehrverwaltung beschäftigen sich intensiv mit den Möglichkeiten dieser Technologie.

00:01:40: Aber es stellen sich hier um paar Fragen.

00:01:42: Was kann KI tatsächlich leisten?

00:01:44: Wo liegen ihre Grenzen, welche Auswirkungen hat sie auf die Beschäftigten?

00:01:48: und wie können wir die Chancen nutzen ohne Sicherheit Verantwortung und ethische Grundsätze aus den Augen zu verlieren.

00:01:54: Und darüber möchte ich heute mit unserem Gast Oberstleutnant IG Tobias Brennenstulf berechen.

00:02:00: Herr Oberst Leutnant was machen Sie jetzt genau als Referent?

00:02:04: erklären Sie uns einfach mal ihren Job weil Sie können das glaube ich am besten.

00:02:07: Ja, sehr gerne.

00:02:09: Mein Name ist Tobias Brennstuhl und ich sitze dort im BMVG in der Abteilung Innovationen & Cyber im Referat IC-Dreisieben.

00:02:16: ... beinhaltet die Digitalisierungsplattform seit... ...zweitausend neunzehn bekannt, brauche ich denke ich mir nicht erklären.

00:02:27: Aber das Klasse an League of Simulation verantwortet halt... ...das Thema künste Intelligenz und ich als Referent in diesem... ...Kluster wir sind zu zweit derzeit noch bin verantwortlich für... ...querschnittliche Simulationen also alles was so mit virtueller taktischer Ausbildung... ...zu tun hat und konstruktive Simulation aber auch für das Thema... ...künstliche Intelligenzen womit wir uns dann jetzt insgesamt seit vier Jahren... ...also schon deutlich bevor mit Version drei Punkt fünf öffentlich gegangen als Beschäftigen.

00:02:53: Ich kriege ja gerade jetzt auch in meiner Funktion als stellvertretende Personalratsvorsitzende ganz viele Fragen, kommt jetzt von den Militärischen... also von den Soldaten und aber auch von den zivilen Mitarbeitenden.

00:03:05: Und viele sagen, ja was ist denn diese KI überhaupt?

00:03:08: Ich weiß ja, ChatGPT Google Gemini die können jetzt schon einiges.

00:03:12: Aber könnten Sie vielleicht so versuchen in einem Satz oder ein paar kurzen Sätzen zu erklären Was ist KI eigentlich und was ist sie vor allen Dingen nicht?

00:03:20: Die erste Frage ist recht einfach.

00:03:21: Was ist Künstliche Intelligenz?

00:03:22: Man kann sagen künstliche Ligenz die Möglichkeit oder die Funktion, dass man versucht das eine Maschine menschliches Denken imitiert und man versucht in sogenannten neuronalen Netzenwissen zu speichern Und dann eine gewisse Logik, die der Mensch in einer Kreativität und so an den Tag legt Dann durch eine Maschine durchführen zu lassen was es künstlicher Ligenze nicht.

00:03:43: ich sage mal künstlichen Ligenzes kein Allheilmittel.

00:03:45: was sich nach künstlichem Intelligenzen nicht beigebracht habe wird künstliche Gänze nicht küllen.

00:03:51: Also zusammenfassend, ich kann ihr einiges beibringen aber der Anwender also ich in Anführungsstrichen nicht in eine Lage bin meiner KI das beizubringen was ich am Ende als Resultat haben möchte dann bringt mir auch die beste KI nichts weil ich als Nutzer dann auch nicht diese Antworten kriegte ich dann am ende gespiegelt haben.

00:04:09: Das könnte man so ein bisschen wie im Sport sehen, wenn ich jahrelang einen Volleyballer für das Thema Volleyball trainiere und werfen ihn ins Wasser ansäugte, du musst jetzt zu einem Meter Freistil schwimmen um Franziska von Einzig zu schlagen dann wird es nichts werden weil halt für eine andere Zweck trainiert.

00:04:23: er wird sicherlich hinbekommen zu schwimmen aber nicht der beste sein.

00:04:26: Und wenn wir jetzt mal direkt auf die Wehrverwaltung blicken ist ja unser Hauptthema heute.

00:04:31: wo begegnet uns Kaiden heute bereits ganz konkret?

00:04:34: Welche Anwendungen nutzen wir denn jetzt schon bei der Bundeswehr am Arbeitsalltag?

00:04:38: Derzeit nutzen wir in der Bundeswehr im Arbeitsalltag die KI ein weniger stellen, als ich das gerne schon hätte.

00:04:43: Soviel vorweg gesagt aber nichtsdestotrotz.

00:04:45: im Mindestteil haben wir es geschafft seit letzten den ersten neunten die sogenannte KI-Speed einzusetzen.

00:04:50: Die KI-Suite ist ein Chatboard wie wir es von ChatGPT kennen nur sicherer.

00:04:54: Wir haben in unserem Haus ein eigenes Grafikkartentlaster stehen also quasi einen Server der bei uns im Keller steht der keinerlei Kontakt zur Außenwelt hat.

00:05:01: Dort nutzen wir KI Modelle um eine gewisse Schreibassistenz Übersetzungsmöglichkeiten und so für die Mitarbeiter anzubieten.

00:05:07: Unter anderem können wir derzeit auch Lokalbilder generieren.

00:05:10: Wenn also jetzt Mitarbeiter lange Mailverläufe bekommen, dann können sie diese dort reinkopieren und können sich die von der KI entsprechend aufbreiten lassen.

00:05:18: Ansonsten gibt es in der Bundeswehr die Vision, also meine Vision dass wir sagen wir wollen mit einer zentralen Unternehmenssuche SearchGBT bis Ende des Jahres eine initiale Befähigung für eine zentrale Unternehmsuche mit KI-Befägung bereitstellen.

00:05:33: Nichts als Trätts kommt der einen oder andere Zuhörer vielleicht Mugel, erreichbar unter mubelpunktSVC wo seit Jahrzehnten bereits eine Suche mit einem neuronalen Netz im Hintergrund verfügbar ist.

00:05:46: Das Neuronalnetz damals noch sehr, sehr klein, weil es noch ohne Grafikkarten trainiert wurde.

00:05:50: aber nicht das so trotz als die Technik, die wir heute nutzen, damals in den Kinderschuhen steckend dort schon

00:05:56: eingeflossen.".

00:05:57: Es gibt ja manche, die dann behaupten, das ist eigentlich auch nichts anderes wie eine Datenbank.

00:06:02: was ist denn da der Unterschied?

00:06:03: um das mal nochmal wirklich auf einen Punkt zu bringen?

00:06:05: Hier habe ich eine Datenbank jetzt für diejenigen, die jetzt nicht IT-mäßig die entsprechende Wissen oder die Ausbildung haben.

00:06:13: Was ist nochmal der Unterschied dann zwischen einer Datenbank, in der ich eine Verwaltung zugreifen kann zu einer Unterstützung durch KI?

00:06:20: Genau.

00:06:21: Die Suche an sich funktioniert anders, herkömmliche System wie z.B.

00:06:25: Datenwanken suchen wir in der Regel syntaktisch das heißt wir suchen nach konkreten Zeichenfolgen.

00:06:30: hat sich beim Erstellen dieser Zeichenvolge jemand vertippt dann finden sie das in den Regeln nie wieder.

00:06:35: also es ist einfach weg.

00:06:36: mit Künstlich- Intelligenz können Sie semantisch suchen weil die KI versucht zu verstehen was sie wollen und Rechtschreibfehler oder Buchstaben die verdreht sind sind für eine KI kein Hindernis.

00:06:49: Das ist ähnlich wie wenn Sie einen Wort lesen und da ist ein Rechtschraubfehler drin, dann können sie das Wort ja auch erkennen und das kann die KI halt auch recht gut Und so können wir im Zusammenhang erkennen was meinen Die Leute konkret?

00:07:00: Wenn wir jetzt zum Beispiel mal ein fiktives Beispiel nehmen Da ruft ein besorgter Bürger an und beschwert sich über tornadoes über deutschland Dann gibt es jetzt zwei Möglichkeiten a er findet das total doof dass draußen gerade gewitter tobt und da gerade nen würgelstrom drüber zieht oder b Er beschwert zich gerade darüber dass ein flugzeug Im tiefflug über den Tropenmühlsplatz geflogen ist.

00:07:21: und da es halt wichtig für die KI zu verstehen, worum gehts gerade mal das Flugzeug oder geht's um den Wirbelsturm.

00:07:27: Klassisches anderes Beispiel ist der Marderschaden.

00:07:29: Wenn wir bei der Bundeswehr nach Mardeschaden suchen, geht's in der Regel um einen kaputten Schützenpanzer im Zivilien.

00:07:34: Geht's in eine Regel darum dass irgendwo ein passierliches Tierchen das Auto zerlegt hat?

00:07:38: Und so ist halt dieses semantische Extrem wichtig, dass ich im semantischen Kontext begreife, worom geht es eigentlich?

00:07:44: und nicht einfach nur stumpfenden Wortsuche.

00:07:46: Sie haben ja auch gesagt, dass es ja schon im Jahr zwei Tausendsechzehn begonnen hat.

00:07:50: Dass man sich ja schon erstmal mit so künstlichen Intelligenzlösungen auseinandergesetzt hat.

00:07:55: Welche Erfahrungen haben wir denn in der Bundeswehr bislang damit gemacht?

00:07:59: Was funktioniert zum Beispiel bereits gut und wo stehen wir vielleicht immer noch ganz am Anfang?

00:08:05: Wir haben die Erfahrung gemacht, dass Bilderkennung und Objekt Klassifizierung und so ganz gut funktioniert.

00:08:11: Das waren damals die ersten Newscases, die auch im Zivilen schon Befortchage BD kamen recht gut angenommen wurden.

00:08:17: wenn wir damals unser Innern von Microsoft gab es Cortana.

00:08:20: da konnte man Bilder hochladen und dann hat Microsoft diese Bilder beschrieben.

00:08:23: bei IBM gab's damals Watson und dann gab's immer den Vergleich zwischen Cortana und Watson wo man lustige Bilder hoch laden kann oder wo man Bilder hochladen kann die dann lustig interpretiert werden.

00:08:34: ja Das sind Sachen, wo man sagt okay das ist mittlerweile ausgereift.

00:08:37: Objektklassifikationen sehen wir heute wenn wir in die Ukraine gucken.

00:08:41: es funktioniert halt.

00:08:43: Panzer angelähnt in einem Modell und die Drohne weiß dass ein Panzer ist und fliegt im Endanflug auf diesen Panzer.

00:08:48: zu Themen die sind entwickelt.

00:08:50: Die werden immer noch besser aber die wären eingesetzt ja.

00:08:53: Gerade Ukraine zwingt uns ja auch irgendwo dazu bisschen Gas zu geben.

00:08:57: was die Entwicklung anbelangt?

00:08:59: Beim Thema künste ich allen allgemein Ja

00:09:02: Also kann man ja auch zusammenfassend sagen, dass es ja doch schon eine ganze Zeit lang geht.

00:09:06: Ebenzeit, wie ich vorher erwähnt habe, im Jahr zwei Tausendsechzehn.

00:09:09: gibt's denn irgendwie schon vielleicht belastbare Zahlen?

00:09:11: Wie wird die KI überhaupt angenommen?

00:09:14: vom Anwender?

00:09:15: Also bei uns im Haus, selbst die KI Speed wird sehr gut angenommen.

00:09:18: Wir haben ja die KI grundsätzlich verfügbar für bis zu drei Tausend Leute.

00:09:21: das heißt man muss sich bei uns nicht anmelden.

00:09:23: jeder den Link hat kann diese KI Speed bei uns nutzen.

00:09:27: Ich würde das Feedback so ein bisschen in drei Gruppen einteilen.

00:09:30: Die erste Gruppe die das total cool findet und aus dem privaten Bereich mit Chatchity und Co umgehen kann Den gibt man dieses Tool an die Hand und sie setzen es einfach intuitiv ein Und wissen was damit zu tun ist und wie man damit umzugehen hat.

00:09:44: zweite Gruppe, die man so ein bisschen an die Hand nehmen muss.

00:09:46: Die so einen Chatboard lokal als Suchmaschine verstehen und versuchen explizite Fachfragen, die wir ansonsten eine Suchmaschinen im Internet stellen würden in einem KI-Modell zu stellen und sind dann so ein wenig enttäuscht über die Antwort, die kommt und über die Aktualität.

00:09:59: Kann ich nicht sagen

00:10:01: warum eine Enttäuschung?

00:10:02: Also was ist da die Erwartung?

00:10:04: Weil wenn man das einfach gewohnt ist, wenn ich Google oder eine andere Suchmaschein im Internet etwas frage wie zum Beispiel wie er hat gestern Abend Bayern München gegen irgendeinen Verein gespielt, dann gibt einem die Suchmaschine eine regelliche Antwort.

00:10:16: Bei einem lokalbetriebenden Large Language Model was ja kein Zugruf des Internets hat mit dem Trainingsdatenstand denn ein Jahr alt ist der weiß nicht wie Bayern gespielt hat gestern Abend.

00:10:23: das funktioniert nicht.

00:10:24: und das ist aber nur ein Beispiel wo es direkt offenbar wird.

00:10:27: wenn ich zum Beispiel jetzt unser Offline KI-Modell Frage wäre als Bundeskanzler der Bundesrepublik Deutschland würde das Modell antworten Olaf Scholz einfach weil die Trainings Daten aus vierundzwanzig sind und dort Olaf Scholze hat noch Bundeskantler war.

00:10:40: ne?

00:10:40: Das System weiss nicht zwischen gewählt wurde.

00:10:43: Das sind so die Fälle, wo man den Nutzer ein bisschen an die Hand nehmen muss.

00:10:46: und die

00:10:47: dritte Gruppe?

00:10:48: Die Verstehen das dann!

00:10:49: Und die Dritte Grupe ist halt die Gruppe, die sagt na Akai is nicht so.

00:10:52: meins will ich mich nicht mit beschäftigen, die unterteilen sich auch in Leute, die ich sage mal so ein bisschen aggressiv dagegen sind und offen sagen gehen wir weg mit dem.

00:11:01: Nennen wir es ruhig Mist.

00:11:02: Mist, geh mir weg mit dem Mist und lass mich damit in Ruhe.

00:11:05: ich will mich da nicht beschäftigen.

00:11:07: das ist eh bald vorbei der KI-Hype.

00:11:09: Und eine Gruppe ist aber ja habe ich keine Zeit für Beschäftige Ich mich später mit.

00:11:14: Die Leute sind immer noch ganz lieb die das ehrlich sagen Der schlimmste Nutzer den sie haben können dass einer der kein Lust auf dieses Thema und raucher ist weil er in einer Raucherecke jedem erzählen wird wie blöd das System ist und ihn die anderen Nutzer versaut

00:11:26: Wenn Sie da schon diese Zahlen haben haben Sie denn schon Überlegungen wie wir auch die Gruppe drei dazu kriegen kann sich dem Ganzen so ein bisschen anzunehmen, weil ich denke mal wir werden auch nicht drum herumkommen dass wir alle irgendwann damit arbeiten müssen.

00:11:42: Ich sehe das eher als Angebot.

00:11:43: Das ist wie so ein Tool, was die Leute an die Hand geben.

00:11:45: Wir haben damals auch nicht alle gezwungen, PCs zu arbeiten sondern wir weiter mit seiner Schreibmaschine arbeiten wollten konnte und weiter mit der Schreib-Maschine arbeiten.

00:11:52: aber sie werden halt immer ineffizient oder wären als ineffiziant wahrgenommen.

00:11:56: Ja

00:11:56: gut, aber wer arbeitet heute noch mit einer Schreib Maschine?

00:11:58: Genau!

00:11:59: Aber damals die Übergangsphase ich kenne es noch aus meiner Zeit bei Entfältigern wo die Schreibkräfte noch recht lange vor Ort waren.

00:12:05: dann hatte man eine Schreibkraft die war halbtags da und hatte gehofft dass den Tag der Brief geschrieben wird und irgendwann hat man sie selbst in gesetzen, hat es dann geschrieben.

00:12:13: Und das hörte mit dem Einsatz von Computern irgendwann ganz schnell auf weil die Schreibkräfte auch super effizient wurden.

00:12:19: Es hat nicht dazu geführt sofort dass sich Schreibkräfte abgeschafft wurden aber es hat dafür gesorgt dass die Schreibkräfte halt deutlich effizierter sind.

00:12:27: Ich habe bei uns zum Thema Nutzung im Haus BMVG mal vom XXIII.

00:12:31: rausgesucht wie das mit den Anfragen waren und die Anfrage also quasi vom Arbeitstag am XXII.

00:12:39: Frage war morgens um ein Uhr zweiundzwanzig und vier schon später aber die erste Anfrage.

00:12:43: Das heißt, die KI hat genau vier Stunden Ruhe gehabt wo kein Nutzer eine Anfrage gestellt hat und ansonsten hat sie zwanzig Stunden am Stück gearbeitet.

00:12:49: es auch mal interessant zu sehen wie so ein System genutzt wird

00:12:53: Aber dann kann man ja doch im Großen und Ganzen sagen, dass es relativ positiv angenommen wird.

00:12:57: Es gibt vielleicht so die einen oder anderen Ängste da reden wir später nochmal drüber.

00:13:01: aber ich würde jetzt eher die positiven Sachen hervornehmen wollen und Chancen um Mehrwert mal besprechen.

00:13:06: welchen konkreten Nutzen verspricht sich denn der Bundeswehr vom Einsatz von KI?

00:13:10: Um welche Prozesse sind das denn die dadurch einfacher schneller und wie sie auch sagten effizienter werden?

00:13:15: Genau, da muss ich ein bisschen ausholen.

00:13:17: Weil wir sind in der Bundeswehr immer großartig Prozesse zu elektrifizieren und nicht zu digitalisieren.

00:13:21: Wir versuchen immer Prozisse eins-zu-eins eine digitale Welt umzusetzen.

00:13:26: das führt häufig dazu dass inoffiziente Prozese dann einfach digitalisiert werden und damit aber nicht effizienter wären.

00:13:32: Wir müssen halt schauen, dass wir die Umsetzung in die Digitalisierung nutzen und Prozess auch mal auf den Prüfstand stellen ob wirklich alle Prozessschritte die drin sind noch notwendig sind.

00:13:42: Dass inoffiziierte Prozeste während zwar durch KI schneller, aber definitiv nicht einfacher oder besser.

00:13:47: Und ganz wichtig auch nicht überall benötigt man KI ne?

00:13:50: Wir hatten im Jahr zwei tausend und zwanzig ein Vorhaben was gemacht werden sollte.

00:13:54: da ging es darum die Anerkennung von Trennungsgeldwohnungen oder die Anerkennung vom Familien Wohnen sitzen mit KI zu machen.

00:14:02: wo ich sage das ist einfach regelbasiert.

00:14:05: Unterdreißig Kilometer wird anerkannt, über dreißigkilometer wird es nicht anerkant.

00:14:08: Genauso bei der Trennungsgeldzahlung da könnte man vielleicht regelbasiert sagen unter neunundzwanzig Kilometern nein, über einen Dreißig-Kilimeter ja und dazwischen wird halt von den Menschen entschieden weil es ein bisschen Ermessensspielraum gibt.

00:14:18: also man braucht nicht überall KI um gewisse Dinge zu lösen.

00:14:23: Das ist sowieso gerade ein ganz guter Punkt was sie gerade sagt man braucht auch nicht immer KI.

00:14:27: das ist ja auch wichtig dass der Mensch irgendwo noch im Mittelpunkt steht Und viele zivile Mitarbeiterinnen und Mitarbeiter fragen sich Was bedeutet die KI für meinen Arbeitsalltag?

00:14:37: Und dann auch eben das, was ich vorhin kurz angeschnitten habe.

00:14:41: Werden sich die Berufsbilder und Berufsfelder verändern ist mein Job so wie er jetzt von der Bundeswehr verlangt wird.

00:14:47: Ist ja jetzt irgendwie in Gefahr.

00:14:49: Das kommt auf das Berufsbild heutzutage an.

00:14:51: Wenn ich hauptsächlich damit beschäftigt bin, Dokumente zu übersetzen dann wird das in Zukunft eine KI sicherlich schneller und effizienter machen können aber nichtsdestotrotz brauche ich den Übersetzer noch weil der Output von einer KI muss ja irgendwann geprüft werden Und hier wird sich das Berufswild wahrscheinlich ändern dass ich die menschliche Expertise zum Beispiel wenn einen Übersetzern nutze um den Output nicht habe zu prüfen oder zb in die Lehre zu gehen.

00:15:15: Weil auch in der Lehre es ist immer besser wenn ich Menschen vorne stehen hab als wenn ich alles mit KI-Macher.

00:15:20: Und die Frage ist halt... ist das ein Job, der wirklich von der KI übernommen werden kann.

00:15:25: Wenn ich an die ganzen Bewillen der ZB den ganzen Hausmeister und Co denke, würde ich sagen in Zukunft... Der Einsatz der Hausmeisters kann mit KI wahrscheinlich optimiert werden aber keine KI der Welt wird eine Glühbirne wechseln können.

00:15:36: Es sei denn es gibt irgendwann Roboter für dieses Thema.

00:15:39: Und dann ist immer ganz wichtig, dass sich durch die Nutzung von KI ja durchaus Möglichkeiten ergeben, dass ich die Nutzer oder die Mitarbeitenden wieder für ihren eigenen Job bezahle.

00:15:51: Bei uns in dem Fall im höheren Dienst ist es in der Regel die Bewertungskompetenz und Überratungskkompetenz der Leitung, wenn ich aber achtzig Prozent des Tages mit irgendwelchen, ich sag mal Monkey Work zu tun habe wo ich Dinge suche aus irgendwelche Quellen bis ich sie näher habe dann ist das wenig effizient.

00:16:08: Wenn ich jetzt eine KI habe, die mir grundsätzlich die Quellenanalyse erspart um mich aus verschiedenen Quellensachen unter Nennung der Referenz zusammenträgt und einen ersten Entwurf bereit stellt, dann hab' ich wieder mehr Zeit um die eigentliche Bewertung und Analysekompetenz, die wir haben sollten dann zu nutzen.

00:16:27: Wichtig ist immer ich weiß nicht wer das kennt wenn man ein Dokument schreiben muss Man sitzt von einem weißen Blatt Papier und weiß nicht wie man anfangen soll.

00:16:33: Diese erste Schritt ist eigentlich das wo diese Schreibblockade immer so hängt.

00:16:37: Wenn ich aber mit einer künstlichen Ligenz so einen Sechzig-Siebzig Prozent Entwurf zur Papier bringe Und ich dem Mitarbeiter sage guck mal Das ist der Entwurf Denn das ist meiner Meinung nach einfacher dort einfach Sachen anzuschreiben oder zu streichen, Sachen umzuformulieren als wenn ich selber von Grund auf das Ganze schreiben muss.

00:16:54: Ja aber dadurch werden ja auch bestimmte Kompetenzen künftig wichtiger.

00:16:58: Man muss ein bisschen umdenken was wären denn dann so Kompetensen die sich wirklich... jeder noch ein bisschen aneignen sollte?

00:17:06: und wie bereitet die Wehrverwaltung ihre Beschäftigten auch so eine Arbeit vor?

00:17:10: oder, wie kann sie Sie darauf vorbereiten?

00:17:12: Also Lehrgänge ist natürlich das eine.

00:17:14: Das andere wäre vielleicht direkt vor Ort an den Systemen in denen man in jeder Dienststelle nutzt, vielleicht da auch nochmal ein paar Tage Einführungsworkshops zu geben.

00:17:25: Hat man sich darüber jetzt schon intensiver Gedanken gemacht.

00:17:28: Es

00:17:29: wird online Trainings geben, wo wir den Leuten dann am Tool bezogen beibringen wie das ganze funktioniert.

00:17:36: Wir haben zum Beispiel mit der BW Consulting zusammen gerade im Veränderungsmenschmin Videos produziert.

00:17:42: was ist KI allgemein?

00:17:43: Was wird es geben?

00:17:44: Virtual Document Assist und Search CPT sind die ersten zwei Produkte die kommen werden Wo generell FETA wahrscheinlich in den nächsten zwei oder drei Wochen bei einer großen Veranstaltung des Videos erste Video dazu zeigen wird.

00:17:56: Wir machen jetzt im BMVG alle vier Wochen schon einen Online-Kurs, wo wir sagen, wir bieten das an.

00:18:02: KI Sprechstunde zeigen ein paar Themen was man mit der KI machen kann und die Leute können sich einwählen und können dann mitarbeiten und auf dem Nachmittag steht immer noch eine Ansprechpartner bereit für den Fall dass die Leute das ausprobieren und laufen.

00:18:14: in eine Falle und wir hatten bei der letzten Veranstaltung knapp dreihundert Mitarbeiter die sich eingewählt haben und waren selber überrascht von dem Feedback was wir dazu bekommen haben auf die Frage, was sich die Mitarbeiter selber aneignen können.

00:18:26: Ich kann nur empfehlen, sich privat auch mit den freien kostenlosen Dienstes wie ChatGPT und Perplexity AI zu beschäftigen um die mal als Beispiel zu nehmen, um mal zu gucken, wie muss ich wirklich prompten?

00:18:36: Wie muss ich nach KI das beibringen...

00:18:38: Erklären Sie mal für diejenigen, die es nicht

00:18:40: wissen, was ist promptend!

00:18:42: Prompten ist die Anweisung an die Maschine oder an die Suchmaschine, an die künstliche Intelligenz genau zu sagen was ich möchte.

00:18:49: Man kann sich das immer so ein bisschen vorstellen wie man hat einen Praktikanten der völlig neu in einer Firma ist, der zwar superintelligent ist aber gar nicht weiß um was es hier konkret geht.

00:18:58: dem sage ich also Du bist Referent im Bundesministerium in der Verteidigung oder du bist Referend einer höheren Bundesbehörde.

00:19:04: Du hast den Auftrag, den Staatssekretär für folgendes Thema vorzubereiten.

00:19:09: Nimm bitte die drei Dokumente, die ich dir am Anhang gegeben habe und extrahiere daraus zum Thema künstliche Intelligenz ein Sprechzettel mit ein paar Bullets so dass das Staatssekratär redefähig ist zufolge dem Thema Sätze dabei folgen den Schwerpunkt dann ist es einen abgeschlossener Promt und dann gucke ich was die KI dann rausholt.

00:19:26: wenn mir das Ergebnis nicht gefällt dann gehe ich entweder hin und pass den Promt an oder ich schreibe zusätzlich noch, ah das habe ich anders gemeint.

00:19:34: Und kann die KI denn dahin führen?

00:19:36: Wichtig ist keine Hämmung haben und der KI dass so sagen als wenn man es mit Praktikanten oder einem anderen Menschen erklären würde.

00:19:44: also die künstlichen Religions ruhig vermenschlichen nicht so sehr dass man überall vielen Vielen Dank Bitte und Danke sagt, aber das eine oder andere Bitte und danke hilft bei einer KI war schade zumindest.

00:19:56: Es gibt doch die einen oder anderen, die im Hinblick auf die Terminator-Reihe sagen ich bedanke mich bei meiner KI damit sie sich später mal daran erinnert dass ich immer nett zu ihr war bevor sie mich eliminiert.

00:20:05: also von daher kamen verschiedene

00:20:07: Wege.

00:20:09: Vielleicht bewährt sich dieses Verhalten in zehn Jahren ja?

00:20:12: Aber im Endeffekt ist diese... Das richtige Prompten ja auch etwas, was uns mit Sicherheit im Alltag fliegt.

00:20:18: Was wir bei der Bundeswehr mögen ist, das sind klare Anweisungen und das muss ich doch bei der KI dann auch machen.

00:20:23: umso klarer meine Anweisung, umso besser das

00:20:26: Ergebnis.".

00:20:27: Je genauer ich Spezialität habe, was ich von der KI wissen möchte, desto besser ist es.

00:20:31: Wenn ich zum Beispiel sage stelle mir das Ergebnis als Tabelle mit drei Spalten da.

00:20:35: die Spaltenüberschriften sind wie folgt dann würde die KI das machen.

00:20:38: Ich kann der KI auch sagen stell mir das Ergebnis einer Tabelle da.

00:20:40: Da wird die KI sich selbst spalten über Schriften überlegen.

00:20:42: vielleicht hilft das auch.

00:20:43: Also je genauer dass auf den Punkt bringe Das so länger dauert er prompt aber desto besseres ist das Ergebnis.

00:20:49: Aber so als Inputgeber ist er das vielleicht mal gar nicht schlecht.

00:20:52: Dann sagt man ja schonmal einen ersten Blick und kann dann sagen naja vielleicht wären doch fünf Spalten besser als drei macht ja die KI dann schneller und unterstützt.

00:21:01: Also ich glaube, wenn man die ganze so ein bisschen als Unterstützung eher sieht als Ersatz, glaube ich ist das noch eine ganz gute Herangehensweise?

00:21:09: Genau!

00:21:09: Die Künstliche Intelligenz ist halt ein Tool, es ist ein Werkzeug was mir helfen kann.

00:21:12: Ich muss es nicht einsetzen bei allen Dingen aber ich kann es einsetzen Und wenn ich weiß wie ich's einsetzen soll hilft mit dem Fall meine Arbeit besser und effizienter zu machen.

00:21:22: Sie haben am Anfang gesagt, die KI ist kein Allheilmittel Und sie wird manchmal natürlich, gerade auch in den Medien als Allheimelte für alles Mögliche vorgestellt.

00:21:33: Aber manche sagen auch ne stopp ist ja eher doch eine Bedrohung.

00:21:37: Ich habe vorher diesen Witz über die Terminatorfilme

00:21:39: gemacht.

00:21:40: aber wo sehen Sie denn persönlich die größten Chancen dieser Technologie?

00:21:43: Aber wo gibt es auch Grenzen?

00:21:46: und man sagt okay da jetzt mal lieber bitte nicht mehr.

00:21:50: Also wo ich Chancen sehe, ist in der Ausweite von großen Datenmengen.

00:21:53: Wir sehen das aber bei SearchGPT.

00:21:54: SearchGpT wird ja unsere neue Suchmaschine sein... ...wo wir verschiedene Datenquellen wie das Zentralregelungsmanagementsystem,... ...das Internet der Bundeswehr und Doktor-BW angeschlossen haben,... ...wohin man dann zu gewissen Projekten eine Frage stellen kann?

00:22:06: Wie gibt mir ein Projektsteckbrief zur PratexY?

00:22:08: Sag mir die Vorteile, die Nachteile und gib mir die Herausforderung... ...und damit komme ich relativ schnell in den OnePager,... ...wo das zusammengesrieben steht und ich kann hinterher die Quellen prüfen.

00:22:17: Auswert in großen Datenmengen ist definitiv ein Thema, wo ich Vorteile sehe.

00:22:24: Was schwierig ist eine abschließende Erstellung von Listen.

00:22:28: Wenn ich zum Beispiel Dokumente habe und sage der KI gibt mir bitte aus dem Dokument alle Punkte zu dem und dem Thema dann werde ich sicherlich eine Auflistung bekommen zu verschiedenen Punkten zu diesem Thema.

00:22:39: Ich kann mich aber nicht darauf verlassen dass das ne abschliessende Liste ist.

00:22:43: wir werden mit den Prompt immer so der Punkte in dem Dokument erfassen, ganz vollständig wird die Liste aber nie sein.

00:22:51: Aber das ist ähnlich wie einen Menschenmensch, der unter Zeitdruck arbeitet, wird so ein Dokument wenn er es auswertet mit hoher Wahrscheinlichkeit auch nicht abschließend auswerten und wird den einen oder anderen Punkt vergessen.

00:23:02: Und der letzte Punkt ist das Thema Verlässlichkeit.

00:23:05: Wann immer ich eine Chatbot zu irgendwas frage und nicht nur Weltwissen nutze also das Wissen was in dem neuronalen Netz gespeichert ist dann ist halt immer die Frage ist das was gespeichert, dass gerade eine Halluzination rauskommt.

00:23:16: Also im Sinne von Verlässlichkeit... Kann ich das glauben oder muss sich das noch mal prüfen?

00:23:22: Ich habe das bei uns als Beispiel immer gebracht, wenn man in den fünf Klässlern nimmt am Anfang des Schuljahres im Fach Geschichte und ich bringe dem jede Menge Schichtzahlen bei.

00:23:33: Dann sage ich pass auf du lernst alles auswendig Das kann der auch richtig gut.

00:23:37: ein Ende des Jahres frage ich genau das ab was er auswendlich gelernt hat.

00:23:40: Das kann ja alles super das repliziert ja das steht alles da.

00:23:42: und wenn ich dann hingehe und sage in Frage drei zehn Wende das bitte an und bringe mir was zu dem mit dem Thema.

00:23:48: Was er nicht explizit gelernt hat, dann wird der versuchen alles aufzuschreiben, was er irgendwo weiß in der Hoffnung, dass er von einer Lehrerin eine gute Note bekommt.

00:23:56: Das ist halt das Problem.

00:23:57: Halluzination.

00:23:58: Und vergleich dazu unsere Unternehmenssuche die wir haben im Zukunft.

00:24:01: es sind sogenannte REC System Nennt sich Retrieval Augmented Generation wo quasi nur Inhalte aus Dokumenten genommen werden, die ich bereitgestellt habe.

00:24:10: Da könnte man quasi um bei dem Beispiel zu bleiben sagen Das ist der Fünfklässler am Anfang des Schuljahres.

00:24:15: Wird man ihm gesagt, pass auf du brauchst nicht lernen.

00:24:17: das Einzige was du auch stellen musst ist ein großer Spickzettel und alle Informationen die du bekommst schreibst auf den Spick Zettel.

00:24:22: Und Ende des Jahres wenn die Arbeit geschrieben wird ist der Deal.

00:24:25: er kann den Spicksettel dafür nutzen und er kann die Fragen alle beantworten der Deals aber wenn er die Frage nicht beantwortet mit dem was auf einem Spick zettelt steht dass er einem sagt weiß ich nicht steht nicht immer im Spickzettel.

00:24:35: Und genau das haben wir mit der KI-Suche gebaut, dass das das Themen sagt.

00:24:38: zu dem Thema habe ich keine Dokumente gefunden.

00:24:40: Ich kann die Frage nicht beantworten und das ist ganz wichtig, dass wir wegkommen von dieser Halluzination Die auch in der Presse immer als größtes Mango von der künstlichen Ligenz dargestellt wird.

00:24:52: Das hat alles mit den großen Themaverlässlichkeit zu tun Dass die Mitarbeiter sich darauf verlassen können, dass wenn die Kainer Antwort gibt, dass sie auch ziemlich sicher war es

00:25:02: Da kommen wir aber wieder zum Faktor Mensch.

00:25:04: Am Schluss muss man dann doch nochmal überprüfen, vielleicht auch noch mal die Quellen und dann auch zu sagen hey halt stopp!

00:25:10: Das kann gar nicht sein.

00:25:11: was erzählst du hier für ein Quatsch?

00:25:12: Genau das ist das was ich vorhin sagte mit Bewertungskompetenzen.

00:25:15: Wir müssen halt auch Leute haben die das fachlich bewerten können.

00:25:17: eine KI bringt einem nichts wenn ein Ergebnis rauskommt was keiner bewerten kann.

00:25:21: Ich muss immer den Fachmann haben der drüber gucken kann und sagen kann ja das stimmt wir dürfen uns nicht angewöhnen dass wir KI Output ungeprüft in den Dienstgang oder ins Haus geben und da Gefahr laufen, dass so ein KI-Output irgendwo falsch den Führungsprozess bestimmt.

00:25:38: Aber weil Sie gerade nochmal diesen Spickzettel als Beispiel gebracht haben – oft waren ja also zumindest meiner Erfahrung auch immer die Prüfungen die schwierigsten wo man alles mitnehmen durfte wenn man dann oft in der Zeit das nicht gefunden hat oder vielleicht dann auch so durcheinander gekommen ist, dass man gar nichts mehr richtig zuordnen konnte.

00:25:55: Da ist er die KI wieder Positiver.

00:25:58: bei dieser Fehler wird ihr ja, wenn sie alle Spektzettel hat nicht passieren.

00:26:02: Genau das ist technisch recht einfach.

00:26:05: ich kann dann eine live Demonstration mal zeigen wie das bei unserer Suche funktioniert sondern suche gegen den Suchendecks dauert vier bis fünf Sekunden und da hatte die Information zusammen die er braucht um sich der KI zu übergeben zur Beantwortung des Modells.

00:26:19: also die KI ist da deutlich leistungsfähiger als dass ein einzelner Mensch könnte

00:26:23: Also zusammenfassend gerade jetzt in diesem Punkt deutlich schneller, unterstützt mich in meinem Arbeiten und ich brauche auch keine Angst haben zu sagen ne KI stimmt nicht.

00:26:34: So und so ist die richtige Antwort.

00:26:35: Und die KI lernt dann auch anhand der Antwort?

00:26:38: Ja,

00:26:39: das machen wir nicht!

00:26:40: Wir werden in Zukunft aus Antworten, die Nutzer geben, nicht lernen weil es einfach zur Folge hätte dass wir einen Nachtraining mit Nutzerdaten machen müssen.

00:26:49: und da sind wir rückzuck im Bereich der KIVO und Datenschutz Grundverordnung wo wir quasi personbezogenen Daten nehmen weil sie können ja nicht ausschließen dass jemand in den Prompt personbezogene Daten eingibt.

00:26:59: wenn wir die dann speichern würden zum Training hätten wir diese Person bezogenen Daten und das ist für uns definitiv ausgeschlossen in den nächsten Jahren.

00:27:07: Und wie möchten Sie es dann zumindest, bis man eine andere Lösung gefunden hat?

00:27:11: Einstweilen lösen dass man jetzt sagt okay die Antwort ist nicht korrekt.

00:27:15: Gibt es dann so eine Art Support-System?

00:27:18: Wenn die Antwort nicht korrekt ist, dann wissen wir woher es kommt.

00:27:23: Weil ich jede Antwort mit den Referenzen prüfen kann und da muss ich in dem System aus dem die Information berichtigen, was in diesem Fall ja dann zum Beispiel Dokum bewähre, wovor aus einer Vorlage etwas Falsches gezogen wurde.

00:27:37: der Federvührer für den Vorgang die Informationen im führenden System anpassen und dann wird in der Nacht danach automatisch neu indiziert.

00:27:44: Und dann ist die neue Information im System?

00:27:46: Derjenige, der es prüft, ist

00:27:49: wieder ein Mensch.

00:27:50: Also haben wir ja hier auch nochmal vielleicht eine andere Verschiebung.

00:27:54: aber Dienstposten sind jetzt per se nicht gefährdet.

00:27:58: Sehe ich derzeit nicht nie!

00:27:59: Weil sie es gerade auch angesprochen hatten DSGVO also noch mal Datenschutz und Sicherheit.

00:28:05: die KI benötigt, ja datenumleistungsfähig zu sein.

00:28:08: und wie gelingt dann dieser Spagat zwischen Innovation auf der einen Seite Datenschutz Informationssicherheit aber gerade jetzt auch Bundeswehr auch der Geheimschutz auf der anderen Seite.

00:28:17: Dadurch... Wie möchten Sie es denn auch machen?

00:28:19: Es ist ja auch alles von unterschiedlich eingestuft das darf er nicht jeder auf alles zugreifen.

00:28:24: Wie soll das gelöst werden?

00:28:27: Bei der Anmeldung, wenn wir jetzt zum Beispiel Search Epidemi nehmen wird bei der Anmeldung in der Suche geprüft wäre es angemeldet.

00:28:34: Sie müssen sich also authentifizieren und das System weiß als welcher Nutzer sie im welchem System angemelt sind.

00:28:41: Und so wird bei dieser Suche geprüft ob sie auf welche Informationen sie mindestens lesenden Zugriff haben.

00:28:45: Das heißt die bekommen auch bei einer KI Antwort keine Information angezeigt auf die sie mit ihren normalen Nutzerkennungen im System keinen Zugriffs haben.

00:28:53: D.h.,

00:28:54: Die Antwort die sie stellen an das System andere sein als die Antwort, die ich stelle.

00:28:58: Es wird immer in dem Fokus sein wo ich meine Dokumente habe.

00:29:02: um auf die zweite Frage zu kommen wie wird das sein?

00:29:04: Spagatinnovation und Training von KI-Modellen, haben wir derzeit eine kleine Herausforderung in Europa durch die Datenschutzgrundverordnung.

00:29:14: Haben wir das Problem dass wir personenbezogene Daten nicht zum Training von KI Modellen nutzen einfach um zu verhindern, dass hinterher personen bezogene Daten auch in diesem Modell drin sind?

00:29:23: Das Problem ist sie müssen wenn Sie Daten in großen Mengen aus dem Internet abziehen und Modelle zu trainieren sowie amerikanische Anbieter das machen dann händisch sicherstellen, dass keine personen bezogen Daten darin sind.

00:29:33: Es wird immer dazu führen, dass sie einen relativ kleinen Trainingsdaten Bestand haben.

00:29:39: dass sie Daten, Trainingsdaten in der großen Menge zur Verfügung haben wie das zum Beispiel OpenAI oder Entropic haben.

00:29:46: Das ist das eine Problem mit der Datenschutzgrundverordnung.

00:29:48: und dann gibt es die zweite Herausforderung mit der KIVO wo gesagt wurde, dass wir automatisch im Bereich Ho-Risiko-KI sind wenn wir Rechenleistungen über zehn hoch fünfundzwanzig Flops benutzt haben.

00:30:02: D.h.,

00:30:02: wenn Sie eine gewisse Anzahl an Rechenleistungen haben ... eine gewisse Anzahl an Rechenleister benutzt haben, um ein Modell zu trainieren.

00:30:09: Das ist automatisch noch Hochrisiko-KI.

00:30:11: Das heißt wir kommen irgendwann in einen Bereich wo zwei große Modelle... ...bereitstellen können europäisch,... ...das aber automatisch... ...in dem Moment wo es noch Hoch Risiko-I isst dann auch die ganzen... ...ich sag jetzt mal bürokratischen Hürden GMEs KIVO auslöst,... ...dass heißt sie müssen sagen was ist es?

00:30:27: Wofür ist das?

00:30:27: Welcher Zweck diese ganzen Modelkarts ausfüllen und so...?

00:30:30: Und die Herausforderung ist einfach.... dass da, glaube ich wenig Firmen in Europa oder wenig Startups in Europa in der Lage sind das vernünftig zu machen.

00:30:41: Das Training ist, glaube für Urheberrechtsverstöße mit den Trainingsdaten gemacht worden.

00:30:50: Der europäische Ansatz ist sicherlich vernünftiger, behindert aber auch so ein bisschen Innovationen.

00:30:56: Wir werden also nie große Modelle wie an Shopping und Co.

00:30:59: Mit der Gesetzeslage die wir derzeit haben hervorbringen können.

00:31:02: Also nicht in absehbarer Zeit!

00:31:03: Das

00:31:03: bringt mich dann auch noch auf den Begriff Cyberangriff für Sicherheitslücken, Risiken... Wie kann man das verhindern?

00:31:11: Verhindern kann man es nie ganz.

00:31:13: Man kann aber schauen, wenn das sogenannte Open-Wade Modelle sind also Modelle die frei verfügbar sind drauf hoffen dass viele Menschen die das System nutzen das auch prüfen und das relativ schnell offenbar wird dass ein System irgendwelche Schwachstellen hat die dann ausgenutzt werden können.

00:31:30: Vorteil ist Bei uns im Haus, dadurch dass das Ganze gekapselt ist und ohne Verbindung zur Außenwelt funktioniert, funktionieren solche Angriffe wie ich lade irgendwelche Informationen nach vorn draußen schon mal nicht.

00:31:41: Aber sie sind natürlich nie davor gefeilt, dass nicht irgendeiner eine E-Mail schickt mit einem versteckten Prompt drin der dann irgendwann in das KI System reinkopiert wird und Dinge auslöst.

00:31:50: Da muss man einfach von der Informationssicherheit seither schauen, wie man dem begegnet und entsprechend dann in den Informations-Sicherheitskonzepten und die ganzen Regularien zu informieren und Sicherheit dann das Thema KI auch aufnehmen und entsprechend begleiten.

00:32:04: Eben, wenn wir ja auch aus der Informatik kennen es gibt kein einhundertprozent sicheres System?

00:32:09: Richtig genau!

00:32:09: Und vielleicht haben wir in fünf Jahren noch irgendwann Möglichkeiten im Bereich der KI wo wir heute noch nicht daran gedacht haben was bereits heute in irgendwelchen KI-Systemen eingebaut ist.

00:32:19: Niemand weiß es.

00:32:21: Ja aber durch diese Ja, nennen wir es mal Verkapselung.

00:32:23: Ist das ja an sich?

00:32:24: Einmal für unsere Zwecke in der Verwaltung oder auch Bundeswehrintern jetzt mal die sicherste Möglichkeit, die wir gerade...

00:32:31: Genau und grundsätzlich haben wir derzeit einen System gebaut was nach heutigem Stand sicher ist, weil keine Daten nach außen abfließen können und die Mitarbeiter hier wirklich dienstliche Informationen verarbeiten können ohne dass ein Datenabfluss nach draußen stattfindet.

00:32:45: Weil was ist die Alternative?

00:32:47: Mitarbeiter nutzen öffentliche künstliche Intelligenz laden dort Daten hoch und wir wissen nicht, was mit diesen Daten passiert die dort hochgeladen werden.

00:32:56: Das ist aber dann auch noch mal vielleicht auch so eine Schulungsgeschichte.

00:32:59: Da wären ja auch nochmal alle darauf hingewiesen werden müssen dass man eben gewisse Daten nicht in sein privates JetGPT Perplexity oder whatever was es alles gibt eingeht gibt, wie es viele ja heute machen.

00:33:11: Die lassen sich schnell was schreiben auf dem Handy, weil's um Dienstrechner nicht geht und benutzen das dann.

00:33:16: Da muss auch ein bisschen etwas passieren...

00:33:19: Die Regulier sind heute schon eindeutig.

00:33:20: Es ist verboten Diensteinformationen per Mail zu verschicken und auf privaten Endgeräten zu verarbeiten.

00:33:27: Nichtsdestotrotz wissen Sie, weiß ich, es wird wahrscheinlich an der Einwanderungsstelle trotzdem gemacht werden.

00:33:33: Deswegen ist es hier wichtig, möglichst schnell dienstliche Künstlinge ganz bereitzustellen.

00:33:37: Damit wir ja den Leuten eine saubere Lösung breitstellen und die Leute nicht auf solche Lösungen zugreifen

00:33:42: müssen.".

00:33:43: Die Frage habe ich auch insbesondere aufgrund der Bundeswehr-Universitäten gestellt weil ... gerade ad hoc nicht wie es in Hamburg ist, aber ich weiß ganz sicher.

00:33:52: In München ist das so dass einem die Bezahlversorgung von GPPT zum Beispiel auch zur Verfügung gestellt wird.

00:33:57: also da werden die Mitarbeitenden auch GPPt ganz normal nutzen und da ist er dann vielleicht doch die Gefahr, dass gegebenenfalls Informationen in diesen Fluss reinkommen, die da vielleicht gar nicht hingehören wobei man wieder trennen muss.

00:34:10: natürlich Freiheit der Wissenschaft.

00:34:13: Aber wie können wir das als Bundeswehr zumindest versuchen irgendwie bisschen besser einen Griff zu kriegen.

00:34:18: Wir müssen die Leute einfach im Rahmen der jährlichen Sicherheitsbelehrung dafür sensibilisieren, was öffentliche offene und vor USFD-Informationen sind und auch sensibilisiere, dass offen eingestufte Informationen nicht öffentlich sind.

00:34:33: Dass auch offene Informationen nicht ins Internet gehören.

00:34:36: Das ist eine sensibilise Gutes einzeln.

00:34:38: Man kann es doch irgendwann technisch nicht mehr unterbinden.

00:34:40: man muss einfach irgendwann auf den Menschen setzen und darauf hoffen das die Regelungen befolgt werden.

00:34:46: Also dann braucht es ja für diese Sicherheitsbelehrungen vielleicht noch mal so ein kleines extra KI-Chapter dazu.

00:34:52: Ich glaube, dass das bei vielen noch gar nicht so wirklich angekommen ist, dass dies auch problematisch werden könnte?

00:34:57: Ich bin fast der Meinung, ich habe es in den ersten Belehrung schon gelesen – das Thema Künstliche Religions-, aber nichtsdestotrotz war vorher das Thema Nutzung von Clouddiensten wie Google Mail oder Kalendern und Austauschlaufwerken ja vorher schon geklärt.

00:35:12: Und das schließt sicher dem quasi an keine Informationen!

00:35:15: vom dienstlichen PC in das private und ins öffentliche Internet hochzuladen.

00:35:20: Schön, dann haben wir nämlich diese Informationen auch nochmal wirklich hier einwandfrei Wort für Wort geklärt.

00:35:25: also private Handys weg da gehört einfach sowas nicht rein.

00:35:29: Handys Medien ist ja alles immer ganz schnell im Zugriff.

00:35:34: Medienmythen und Realität.

00:35:36: In den Medien werden die Möglichkeiten und Risiken von KI häufig oftmals sehr zugespitzt dargestellt, dann gibt es ja auch immer wieder Berichte über Simulationen in der die KI angeblich zum Einsatz von Atomwaffen geraten hat um einen Konflikt zu klären dem Rücken der Menschheit diesen Konflikt beendet hat.

00:35:57: Was können Sie uns dazu sagen, wie viel ist denn da jetzt Hype?

00:36:00: Wie viele ist denn das wirklich Realität passiert und warum hat die KI auch überhaupt so

00:36:04: reagiert?".

00:36:06: Das ist oft ein klassisches Prinzip des Reinforcement Learnings.

00:36:09: Ich versuche immer in der Simulation künstliche Intelligenz etwas beizubringen und wie mache ich das?

00:36:15: In der Regel lasse ich Sie mehrere hunderttausend Durchläufe einfach frei exploiten, also herausfinden was alles geht im System und belohne sie für richtige Aktionen und im schlimmsten Fall bestrafe sie für schlechte Aktione.

00:36:27: aber in der Regel wird es sich belohnt mit einer Funktion der mathematischen Belohnungsfunktion dafür dass die Dinge richtig tut an einigen Stellen ein wenig ausbauffähig ist.

00:36:38: Dann kann es sein, dass die Belohnung für das schnelle Beenden eines Konflikts sehr hoch ist und die KI lernt irgendwann wenn ich eine Atomwaffe einsetze dann ist der Konflikt relativ schnell beendet und ich kriege eine hohe Belohnungen.

00:36:49: Das ist für uns ethisch nicht akzeptabel für die KI aber in dem Fall eine Maximierung der mathematisch beschriebenen Belohnungsfunktionen gab's im USA vor zwei oder drei Jahren einen Aufschrei zu dem Thema quasi ihren Meister getötet hat, um den Auftrag schon dazu zu erfüllen.

00:37:11: Das war einfach auch eine klassische Fall von einer schlechten Belohnungsfunktion.

00:37:15: dort hat die künstlichen Ligenz einfach gelernt dass wenn ich also Ziel waren in ziel taktischer Simulations erreichen und man konnte zwischendurch der KI immer noch neue Aufträge geben und sie hat einfach immer gelernt das wenn ich einen Funktom, also ein Verbindungstower der Innersimulation vorhanden war, wenn sie den zerstört, dass sie relativ schnell ihr Ziel erreicht.

00:37:34: Warum?

00:37:35: Weil wenn der Funktrum zerstört ist gibt es keine neuen Aufträge mehr und die KI hat irgendwann mit der Belohnungsfunktion gemerkt ich muss relativ schnell diesen Funkturm zerstören dann ändert sich mein Auftrag nicht mehr.

00:37:43: und da komme ich relativ schnell zu dem letzten Ziel was ich hatte.

00:37:46: Und die Frage ist immer wie interpretiere ich das Ergebnis?

00:37:49: Da kommt ja wieder dieser Faktor Mensch zu tragen, der auch am Ende die letzten Entscheidungen treffen soll.

00:37:59: Oder kann ich der KI das dann auch von Anfang an verbieten?

00:38:02: Wie geht man mit sowas um?

00:38:03: Das kann man alles in solche Belohnungsfunktionen reinpacken, dass die KI sich gut oder schlecht verhält.

00:38:09: Nichtsdestotrotz haben wir natürlich grundsätzlich im Bereich der künstlichen Intelligenz einen menschenzentrierten Ansatz gerade wenn es um solche Systeme zum Thema Entscheidungen geht.

00:38:17: Also wir haben immer den human in the loop, der Mensch behält die Kontrolle und die KI bereitet maximal Entscheidung vor.

00:38:23: Entscheidend tut Schluss endlich.

00:38:25: dann der Mensch und nicht die KI.

00:38:27: Das ist in einer Verwaltung genauso, wenn ich Entscheidungen in Zukunft mit Künstliche Intelligenz vorbereiten möchte habe ich immer noch einen Sachbearbeiter, der das ganze sachlich und rechnungsrichtig zeichnet und sagt okay gut die Entscheidung ist so richtig, die nehmen wir so an.

00:38:41: also klassisches Vier-Augenprinzip wo die künstliche intelligenz dann eventuell ein paar zusätzliches augen darstellen kann.

00:38:48: ja dass auch immer dieser große aufschrei KI und Ethik wie passt das zusammen?

00:38:52: es müssen ja auch Ja, sei es bei Bewerbungsgesprächen oder Assessments.

00:38:56: Kann ja durch die KI durchaus unterstützt werden aber manche Sachen sind halt auch nicht so klassisch geregelt weil wir immer noch mit Menschen zu tun haben und da hat jeder Mensch auch seine andere Geschichte.

00:39:07: gerade jetzt in einem Assessment wie gehe ich mit dem um?

00:39:10: Da ist es dann aus ethischen Gründen wichtig etwas eine KI nicht alleine entscheiden zu lassen.

00:39:16: Bis zu welchem Grad wäre es denn okay?

00:39:21: also vorher?

00:39:21: vielleicht Lassen wir es Schulnoten sein oder irgendwas, was vorher aussortiert wird.

00:39:26: Ab wann ist das denn für Sie jetzt unabdingbar?

00:39:28: Dass man sagt nicht Haltstopp jetzt muss aber wirklich noch mal Mensch mit rein.

00:39:32: Also ich sehe in einer Bewerberauswahl an sich, im klassischen Assessment-Center seh' ich derzeit eigentlich gar keine KI.

00:39:38: Man kann sicherlich einzelne Tests wie man sie früher gemacht hat Mathematiktest oder andere Tests durch KI optimieren aber für meine von mir persönlich aus wurde KI in dem Bereich nicht einsetzen weil einfach Leute die Erfahrung haben die den Gefühl haben darüber entscheiden sollten ob wir Leute einstellen und nicht rein stellen.

00:39:57: Das ist ja genau das schönes Wort.

00:39:58: was Sie gerade gesagt haben ist Gefühl.

00:40:00: eine KI fühlt nicht.

00:40:03: Und ich glaube, das ist schon etwas, was wir auf jeden Fall im Hinterkopf behalten sollen und dass wir bis jetzt auch gerade in unserem Berufsfeld sei es militärisch oder zivil ja auch wichtig, dass wir immer noch Menschen haben die Entscheidungen treffen, die auf ihren Erfahrungen auch Entscheidungen treffen.

00:40:17: Gerade wenn's sei es Konflikte, sei es Einstellungen, seien es irgendwelche Verordnungen geht.

00:40:23: Aber vielleicht ist das ja auch ein Nachteil, wenn man Gefühle hat und einen Baupgefühl hat.

00:40:28: Und eine KI einfach auf Basis von Fakten entscheidet.

00:40:32: Da müsste man im Einzelfall mal schauen was es besser?

00:40:35: Jahrelange Erfahrung, Bauchgefühl oder einfach faktenbasierte Entscheidung durch die Künstliche Intelligenz ohne dass man eine Voreingenommenheit hat.

00:40:44: Also was ich wüsste ist, dass es auf jeden Fall schon Studien in Arbeit gibt.

00:40:48: aber da haben wir noch keine Ergebnisse so richtig belastbarer weil die noch zu... Ja, gibt's da einfach

00:40:53: noch nicht so lange.

00:40:54: Ich hab da keine Erfahrungen, aber interessant wäre es schon, ja?

00:40:57: Ne,

00:40:57: da gibt´s definitiv, also das habe ich schon mitbekommen dass da auch geforscht wird in diesem Bereich.

00:41:02: Aber wie gesagt die Zahlen sind einfach nur noch nicht belastbar weil wir die Erfahrungen ja noch gar nicht haben.

00:41:07: Und...ja ich denke mal ist es schon eine gewisse Sache.

00:41:10: Da muss beides miteinander mitspielen.

00:41:12: Man kann sich durchaus einen Tipp geben lassen Aber irgendwie Bauchgefühl ist doch, also meine persönliche Meinung.

00:41:18: Bauch gefühlt ist Bauch-Gefühl.

00:41:20: Ich mein gut kann man auch mal revidieren wenn man dann feststellt das hat man ja auch oft so im normalen Leben dass man jemandem kennenlernt den findet man super unsympathisch und um halbis Jahr später ist mit dem verheiratet oder sowas.

00:41:31: Also es kann ja alles sehr durchaus alles möglich.

00:41:34: Wollen wir hoffen dass das mit KI besser wird?

00:41:36: Aber nicht so wie in so komischen Filmen, wenn man dann nur noch anhand KI-Daten vielleicht wäre das was für Tinder oder Hinch oder wie sie alle heißen.

00:41:43: Vielleicht können die davon ein bisschen mehr lernen.

00:41:45: Lernen von anderen.

00:41:47: gehen wir mal zu den privaten Unternehmen.

00:41:49: Die setzen ja künstliche Intelligenz sehr intensiv ein und... Dann stellt sich immer so die Frage, ob es Entwicklungen aus der Wirtschaft gibt von denen in die Bundeswehr und die Wehrverwaltung lernen können.

00:41:59: Weil so der allgemeine Tenor ist zumindest das Gefühl dass ich habe is eher wir hängen sehr hinterher und wir hätten schon viel ehe anfangen sollen.

00:42:06: ja ihr Bundeswehr mit eure Verwaltungen verwaltet euch sowieso tot und bis ihr seid einfach schon mal wieder zu spät dran.

00:42:12: was können sie uns dazu sagen?

00:42:14: Das ist sicher nicht ein Vorwurf, der wenn man das Oberfläche betrachtet so richtig ist.

00:42:20: Weil wir halt mit unserem Planungsprozess sowieso immer dreijahrend herrennen.

00:42:24: also wenn wir sagen Wir brauchen jetzt künstliche Ligenz und bringen das im Planungs-Prozess ein bis es dann durch das ganze System sind drei Jahre um.

00:42:30: Dann beginnt die Umsetzung und so.

00:42:32: deswegen aber beim Thema Künstliche Intelligenz haben wir ja relativ schnell erkannt dass das ein wichtiges Thema ist.

00:42:37: Und deswegen sind wir jetzt an der Stelle auch schon so weit wie wir sind, weil damals nach dem GPT-Dreibung V rausgebracht hat haben wir relativ schnell erkannt, dass wir so einen Service also einen zentralen Service für generative künstliche Intelligenz brauchen, haben den eingebracht und die Bewies beauftragt jetzt nach der Behandlung hoffentlich im Parlament dann ab ersten Zehnten das komplett für alle umzusetzen.

00:43:02: Wir haben letztes Jahr mit der Umsetzung zusammen über eine Ahnung Vertrag schon begonnen, aber um darauf zurückzukommen dass ich sagen die zivile Wirtschaft ist hier schneller als wir.

00:43:12: Die Zivilewirtschaft war schneller, aber ich kann Ihnen zum Beispiel sagen von den Wissensmanagement-Tagen letztes Jahr wo ich in Stuttgart zum Thema Search CPT vorgetragen habe das hinterher CIOs zu mir gekommen sind an den Stand und gesagt haben ihr seid so viel weiter wie wir Warum?

00:43:27: Wo kommt das her?

00:43:29: Die Zivile Wirtschaft hat gesagt, okay wir brauchen ein REC-System.

00:43:31: Wir haben einen großen Datenspeicher genommen alle möglichen Daten die sie hatten dort reingekippt und haben die Leute mit KI auf diesen Speichern Fragen stellen lassen Und jeder konnte alles aus diesen Dokumenten rausziehen.

00:43:43: Sie wissen gar nicht wenn sie eine große Anzahl an Dokumente haben was sie da in Informationen rausziehen können.

00:43:48: Und ich habe unser System vorgestellt, Verschlusssachen anweisungskonform.

00:43:51: Need to know, need to share dass wir sagen bei der Suche wird geprüft ob der Nutzer das Dokument überhaupt sehen darf und verbinden Systeme an.

00:43:58: Das hat der Industrie gefallen hat gesagt man hat auch gemerkt Dass es vielleicht besser ist wenn nicht jeder in einer Firma alles sehen kann und das war für mich schon ein Lob das hinter der zivile Wirtschaft sagt Wir sind bei der Bundeswehr weiter Wissen zwar wieder später dran aber wir machen sie wieder gründlicher mal als alle anderen und das ist eigentlich schon ganz gutes Lob.

00:44:15: Ich bin gespannt wie lang wir diesen Vorsprung halten können.

00:44:19: Ja, das sind ja auch nicht vor Industrie-Spionage oder ähnlichen Gefeite.

00:44:22: also insofern...

00:44:24: Das ist genau der Punkt den Sie ansprechen, dass sie im Unternehmen nicht wissen wer konkret für Sie arbeitet.

00:44:30: und deswegen ist es schon wichtig im Sinne von Zero Trust den Leuten erstmal grundsätzlich nichts zu vertrauen und Informationen freizugeben nur für Leute denen sie vertrauen die überprüft sind und dann dementsprechend auch die KI nur darauf zu berechtigen.

00:44:45: was die

00:44:46: Sie haben ja auch gerade gesagt, wir haben jetzt ein bisschen aufgeholt.

00:44:50: Jetzt sind wir so auf Augenhöhe, wenn nicht sogar in manchen Sachen besser.

00:44:54: Wo sind wir dann?

00:44:56: Wenn wir so weitermachen wie bisher in der Bundeswehr Verwaltung in sagen wir mal fünf Jahren.

00:45:01: Wo sollten wir denn da stehen?

00:45:04: Das ist eine sehr schwierige Frage die sehr tricky ist weil man könnte mich an fünf Jahre den Aussagen nicht getätigt habe messen.

00:45:10: aber ich sage

00:45:11: als große Wunschvorstellung also wenn sie sich es wirklich jetzt mal ohne wirklich sie darauf festzunageln, wenn Sie sich so wünschen könnten und es würde alles reibungslos in Beschaffung in allen möglichen auch im Aufwuchs der KI-Abteilungen im BMVG vorangehen wie Sie sich's wünscht.

00:45:27: Wo wären wir dann?

00:45:29: Also grundsätzlich erst mal Automatisierung des Postengangs.

00:45:31: Das heißt, wenn eine neue E-Mail reinkommt dann wird die ausgewertet es wird automatisch geguckt wer ist der für zuständig?

00:45:39: Haben wir in der Vergangenheit dazu schon Vorgänge gehabt die mir automatisch mit dazugepackt werden als links damit ich nicht in meinem Wissen... ...in meinem eigenen Wissen gucken muss.

00:45:49: haben wir da zu schonen Vorgehen gehabt oder er suchen muss sondern dass die KI quasi im Ablauf sagt okay in der vergangenheit hatten wir schon was gibt's schon Lösungen für und damit können wir quasi die eigentliche Bearbeitungszeit für den Bearbeiter verlängern.

00:46:01: Wenn wir jetzt im Bereich Dienstreiseanträge gehen, ich weiß nicht wie viele Dienstreiseanträger automatisch durchgehen und wir haben immer noch die Herausforderung dass massig Ebenen dazwischen haben, jetzt bei uns im BMVG nicht.

00:46:12: Aber in der Truppe wurde teilweise Chef des Stabes einen Dienstreiseantrag genehmigen muss, wo ich sage wenn der Referatsleiter sagt dieser Dienstreisantrag ist genehmigt dann ist das Thema durch weil der Referatzeit da muss.

00:46:24: mit der Abwesenheit des Mitarbeitern Erklärung und Planungsamt hat man das damals ganz gut umgesetzt.

00:46:30: Das Programm nannte sich Power to the Edge dass bei Urlops Anträgen der Referratsleiter abschließend entschieden hat Der Referent bekommt Urlaub oder bekommt keinen Urlaub und genauso könnte man das in Zukunft auch machen.

00:46:39: Das hat wenig mit KI zu tun, aber es gibt da durchaus Bereiche wo man KI dafür ausnutzen kann um zum Beispiel eine Anträge gewisse Sachverhalte zu erfassen und dann entsprechenden Entscheidungsvorschlag für den Entscheider hierzu formulieren.

00:46:53: Und zum Thema was würde ich mir noch wünschen?

00:46:55: Wie z.B für den Termin.

00:46:56: heute bereitet man sich doch vor, eine agentische KI die in einen Terminkalender reinguckt und sagt okay heute wird ein Podcast aufgenommen zu dem mit dem Thema.

00:47:04: Ich habe dir schon mal etwas vorbereitet hier sind die Unterlagen da kamen übrigens eine Mail mit den Fragen rein und das ist übrigens der aktuelle Sachstand dazu so dass man das nicht von Hand machen müsste.

00:47:13: also quasi so bisschen proaktives Handeln der KI gibt es halt schon am Markt mit Lösungen von Microsoft EcoPilot und so die da integriert werden.

00:47:23: Aber nichtsdestotrotz müssen wir bei uns gucken, dass das wenn wir das in der Werferwaltung implementieren ja auch sicher und nachhaltig ist.

00:47:30: Also wir können nicht einfach irgendein KI-System bei uns drauf loslassen.

00:47:33: Das Wilddinge im Kalender tut.

00:47:35: da können wir uns dann schon wenn es schief geht nachhaltigt mit Lämen.

00:47:39: Solange wir bei den Temperaturen, die wir heute haben irgendwie alle Termine im Biergarten haben glaube ich ist es vielleicht das am wenigsten schlimmste was da vielleicht passieren könnte.

00:47:49: Wenn Sie jetzt noch zum Abschluss eine Frage wenn sie für die Wehrverwaltung eine einzige KI Anwendung generieren oder sich wünschen könnten wenn wir schon von Wünschen sind?

00:47:57: Die sofort ab morgen einsatzbereit wäre... Was um das?

00:48:01: wäre das für eine und

00:48:03: warum?

00:48:04: Also ich würde gerne das, was wir ja schon geplant haben, Search.pt als zentrale Unternehmenssuche sofort für alle Bereitstellen mit Anschluss aller Datenquellen die wir haben weil es für mich einfach der größte Mehrwert ist wenn die Leute nicht mehr... in verschiedene Datenquellen wie E-Mail, SharePoint, GroupWare oder ZDMS suchen müssen.

00:48:24: Sondern eine zentrale Unternehmenssuche haben wo auch OBK und PBK angebunden sind Und man sich das quasi spart Das Wissen verteilt über verschiedene Daten Quellen zusammen zu tragen.

00:48:36: Es gibt den klassischen Spruch e-mail is where knowledge goes to die.

00:48:39: Dafür gibts ne Lösung Die heißt search ippity Herausforderungen wie Grafikkarten und andere Dinge lasse ich jetzt mal aus dem vor.

00:48:45: aber das wäre mein Wunsch der Glaube allen Mitarbeiterinnen und Mitarbeitern in der Wervorhaltung helfen, oder?

00:48:53: Und ich würde mir jetzt von Ihnen zum Schluss noch wünschen für unsere Zuhörerinnen und Zuhöhrer.

00:48:59: Was möchten Sie denen gerne mitgeben?

00:49:02: was auch die Offenheit für KI anbelangt was vielleicht auch ein bisschen verantwortungsbewussten Umgang damit anbelangen so als schönen Abschluss.

00:49:09: Was können sie uns da empfehlen?

00:49:11: Ich glaube ein Großteil der Zuhörer wartet sehnsüchtig drauf, dass wir so eine KI-Lösung breitstellen und wird intuitiv damit umgehen können.

00:49:18: Und allen anderen kann ich nur sagen nehmt Schulungsangebote wahr nutzt jetzt schon die Möglichkeit die OpenAI mit öffentlich verfügbaren oder kostenlosen Lösungen gibt und hört auf Angst davor zu haben versucht zu prompten.

00:49:33: lasst euch von Leuten die mit KI umgekühnt zeigen wie das funktioniert und verliert die Scheu vor der künstlichen Intelligenz System.

00:49:40: beißt nicht.

00:49:41: Das ist wie damals das Internet, man kann sicherlich ein paar Sachen falsch machen aber es wird nichts zu schäden kommen wenn man sich jetzt mit bisschen KI mal auseinandersetzt und das macht einen selbst nicht dümmer.

00:49:52: Veränderungen werden definitiv kommen auch bei uns in der Wehrverwaltung Und die Frage ist daher nicht, ob wir KI einsetzen, sondern wie wir dies verantwortungsvoll sicher und im Sinne der Menschen unserer Mitarbeitenden gestalten.

00:50:06: Herzlichen Dank für das wundervolle Gespräch und die spannenden Einblicke!

00:50:09: Danke schön.

00:50:10: Jetzt gebe ich zurück an Bernd.

00:50:14: Was hast du jetzt hier mitnehmen können?

00:50:16: Ja erstmal vielen Dank dass Sie sich die Zeit genommen haben Herr Obersten-Lautenhanter-Bernstuhl.

00:50:20: Melanie viel Dank für die Fragen und die Einblicken.

00:50:25: Ich selber kann einfach nur sagen, ich bin immer wieder erstaunt wie groß dieses Thema ist und was das Thema alles umspannend.

00:50:30: Dieses Thema sich auch über die Entwicklung der Werferwaltung hin zu der Verteidigungs- oder Kriegsverwaltung, wie wir es immer nennen wollen ja eigentlich quasi obendrauf packt.

00:50:39: Das gehört alles miteinander zusammen Und das sind ja tiefgreifende Veränderungen, die wir so in der Form den letzten zwanzig Jahren gar nicht gehabt haben.

00:50:46: Wobei – und das habe ich zumindest in anderen Podcasts gehört – auf Frank-Tehlen hat es mal gesagt jetzt vor Kurzem Es wird nie wieder ein Jahr geben wie dieses Jahr wo wir so kurze langsame Veränderung haben.

00:50:59: Ich glaube dass sagt alles was jetzt auf uns zukommen wird.

00:51:02: Die Veränderungs werden tiefgreifen sein Sie werden schneller ablaufen und diese Dynamik ist von uns noch gar nicht richtig erfasst von jedem Einzelnen von uns Und ich finde es spannend.

00:51:13: Ich hoffe, dass Sie hier einiges mitnehmen konnten und ich wünsche Ihnen einen guten Heimweg!

00:51:19: Vielen Dank noch mal für diese Teilnahme.

00:51:21: vielleicht machen wir nochmal einen zweiten Teil?

00:51:22: Wir schauen mal.

00:51:23: Danke!

00:51:24: Ja, ich bedanke mich auch noch einmal Frau Hasperger Herr Brennschul, dass sie da waren sich die Zeit genommen haben.

00:51:29: Danke an Bernd vor allem, dass du hier die beiden zusammengebracht hast.

00:51:33: Danke für das Gespräch und dann hören wir uns beim nächsten Mal wieder.