KI-Com­pli­ance Teil 4: Nut­zung von Note­ta­kern und Smart Glasses

In mei­ner jüngs­ten Schu­lung zur KI-Ver­ord­nung stellte mir ein Teil­neh­mer eine Frage, die auf den ers­ten Blick sehr spe­zi­ell klang, bei nähe­rem Hin­se­hen aber weit dar­über hin­aus­geht. Er betreibt einen Cowor­king-Space und wollte wis­sen, ob und wie er auf KI-Note­ta­ker und smarte Bril­len reagie­ren sollte und ob ein Haf­tungs­ri­siko besteht.

Im Gespräch wurde schnell klar, dass dies kein rei­nes Cowor­king-Thema ist. Es betrifft den beruf­li­chen All­tag ins­ge­samt. Bespre­chun­gen im Unter­neh­men, Kun­den­ter­mine im Restau­rant, Gesprä­che in der Busi­ness Class und/​oder im Zug, spon­tane Abstim­mun­gen in offe­nen Büro­flä­chen bis hin zu Mee­tings beim Kun­den vor Ort. Über­all dort kön­nen heute Tools im Ein­satz sein, die Gesag­tes direkt in Text-Zusam­men­fas­sun­gen und Auf­ga­ben­lis­ten verwandeln.

Ich fand die Frage nicht nur span­nend, weil wir selbst unsere Büros seit 2019 in einem Cowor­king-Space haben, son­drn weil sie an einem Punkt ansetzt, an dem neue Tech­nik und All­tags­rou­tine inein­an­der­lau­fen. Viele die­ser Werk­zeuge wir­ken erst ein­mal prak­tisch, denn sie ver­spre­chen bes­sere Noti­zen und mehr Struk­tur. Genau das macht sie so verlockend.

Und genau darin liegt aus mei­ner Sicht das eigent­li­che Thema: Es geht nicht nur um die Fälle, in denen jemand vor­sätz­lich intrans­pa­rent oder über­grif­fig han­delt. Es geht viel häu­fi­ger um gut­gläu­bige Nut­zung. Jemand lässt „nur kurz“ eine App mit­lau­fen. Jemand trägt „ein­fach“ eine smarte Brille. Jemand möchte „bloß“ ein bes­se­res Mee­ting-Pro­to­koll. Für die ande­ren Betei­lig­ten kann das trotz­dem ein völ­lig ande­res Gefühl erzeugen.

Die­ser Bei­trag ist weder ein juris­ti­scher Fach­auf­satz noch ersetzt er eine Rechts­be­ra­tung. Ich möchte eher ein Pro­blem­be­wusst­sein schaf­fen für eine Ent­wick­lung, die tech­nisch längst da ist, orga­ni­sa­to­risch und kul­tu­rell vie­ler­orts aber noch nicht wirk­lich ver­ar­bei­tet wurde.

Die neue Rea­li­tät ist ziem­lich unspek­ta­ku­lär geworden

Die neue Rea­li­tät sieht gar nicht futu­ris­tisch aus. Sci­ence-Fic­tion-Pro­dukte wie die zu früh und zu unreif ver­öf­fent­lichte Google Glass oder App­les sünd­haft teure Vision Pro wären noch rela­tiv leicht als neue Tech­no­lo­gie zu erken­nen. Ein klei­nes Auf­nah­me­ge­rät auf dem Tisch, das wie eine Power­bank aus­sieht, oder eine Brille von Ray-Ban (oder App­les ange­kün­digte Ant­wort dar­auf), die wie eine nor­male Brille aus­sieht, ver­schie­ben unsere Wahr­neh­mung viel stärker.

Moderne Smart Devices erfas­sen Videos und Audio und wer­den per App mit dem Smart­phone gekop­pelt. Das macht sie tech­nisch leis­tungs­fä­hig und sozial unauf­fäl­lig zugleich. Genau des­halb unter­schät­zen viele Men­schen die Situa­tion, weil die Tech­nik so selbst­ver­ständ­lich daherkommt.

Das Pro­blem ist nicht Miss­brauch, son­dern Gedankenlosigkeit

Wenn über sol­che Geräte gespro­chen wird, lan­det man schnell bei Extrem­fäl­len, die die Öffent­lich­keit zu Recht beun­ru­hi­gen, wie heim­li­che Auf­nah­men im Schwimm­bad oder Fit­ness­stu­dio. Der häu­fi­gere Ein­stieg ins Pro­blem ist aber deut­lich unspektakulärer.

Viele Nut­zer den­ken schlicht in der Logik eines Pro­duk­ti­vi­täts­tools: Sie wol­len ein Gespräch struk­tu­rie­ren und sich Noti­zen spa­ren. Das ist voll­kom­men nach­voll­zieh­bar, blen­det aber lei­der aus, dass andere Men­schen die­selbe Situa­tion ganz anders erle­ben, näm­lich als unklare, mög­li­cher­weise nicht abge­stimmte Erfas­sung eines Gesprächs, das sie gerade für ver­trau­lich oder zumin­dest für flüch­tig hielten—insbesondere dann, wenn sie erst nach­träg­lich davon erfahren.

Gerade im beruf­li­chen All­tag ist diese Grau­zone hei­kel. Denn dort wer­den nicht nur banale Infor­ma­tio­nen bespro­chen, son­dern oft Ein­schät­zun­gen, Kun­den­da­ten, Per­so­nal­the­men, Stra­te­gien oder andere Inhalte, die im fal­schen Kon­text schnell sen­si­bel werden.

Warum smarte Bril­len noch ein­mal eine andere Qua­li­tät haben

Bei KI-Note­ta­kern oder Apps ist die Auf­nahme wenigs­tens manch­mal noch sicht­bar oder orga­ni­sa­to­risch greif­bar; teil­weise wer­den diese Geräte auch über die Unter­neh­mens-IT ange­schafft. Bei smar­ten Bril­len wird es deut­lich dif­fu­ser, denn sie inte­grie­ren Kamera und Mikro­fon in einen All­tags­ge­gen­stand, der zudem meist pri­vat ange­schafft wurde. Nie­mand hin­ter­fragt der­zeit auto­ma­tisch, ob das noch eine Brille ist oder längst ein Stück KI-Technologie.

Genau an die­ser Stelle fand ich die jüngs­ten Berichte über Meta inter­es­sant. Nach Recher­chen und Fol­ge­be­rich­ten wur­den in der Begleit-App von Meta Smart Glas­ses Gesichts­er­ken­nungs­funk­tio­nen bezie­hungs­weise ent­spre­chende Code-Bau­steine ent­deckt und nach Pres­se­be­rich­ten spä­ter wie­der ent­fernt. Meta ver­suchte Scha­dens­be­gren­zung und sprach von nicht aus­ge­roll­ten oder explo­ra­ti­ven Funk­tio­nen. Kri­ti­ker wer­te­ten genau die­ses Hin und Her aber als Zei­chen dafür, dass man beschwich­ti­gende Aus­sa­gen nur begrenzt für bare Münze neh­men sollte.

Für mich ist dabei weni­ger ent­schei­dend, ob eine kon­krete Funk­tion in genau die­sem Moment live ist. Ent­schei­dend ist die Rich­tung. Sobald Smart Glas­ses nicht nur auf­zeich­nen, son­dern per­spek­ti­visch auch iden­ti­fi­zie­ren kön­nen, ver­än­dert sich die Lage qua­li­ta­tiv. Dann geht es nicht mehr nur um Mit­schnitte, son­dern um per­so­nen­be­zie­hende Erken­nung und damit um eine deut­lich schär­fere Form der Beob­ach­tung. Mehr als 70 Orga­ni­sa­tio­nen haben Meta genau des­halb auf­ge­for­dert, ent­spre­chende Gesichts­er­ken­nungs­pläne öffent­lich auf­zu­ge­ben. Zum Stand der Ver­öf­fent­li­chung die­ses Arti­kels ist das noch nicht passiert.

Span­nend finde ich auch, dass es inzwi­schen Apps gibt, die bestimmte Smart Glas­ses in der Umge­bung erken­nen oder zumin­dest Hin­weise dar­auf geben wol­len. Sol­che Anwen­dun­gen wer­ben damit, Blue­tooth-Signale pas­sen­der Geräte zu fin­den und Nut­zer zu war­nen. Allein die Exis­tenz sol­cher Apps zeigt schon, dass hier ein rea­les Unsi­cher­heits­ge­fühl ent­stan­den ist. Wenn eine Tech­nik Gegen-Apps her­vor­bringt, weil Men­schen sich vor unbe­merk­ter Erfas­sung schüt­zen wol­len, dann ist die gesell­schaft­li­che Irri­ta­tion offen­sicht­lich längst da.

Recht­li­che Aspekte

Auch wenn ich den Bei­trag bewusst nicht juris­tisch auf­zie­hen möchte, lässt sich die recht­li­che Ebene nicht ganz aus­blen­den. Sobald Gesprä­che auf­ge­zeich­net, tran­skri­biert oder über externe Dienste ver­ar­bei­tet wer­den, ist die DSGVO mit im Raum. Dann geht es unter ande­rem um infor­mierte Ein­wil­li­gung, um eine trag­fä­hige Rechts­grund­lage der Daten­ver­ar­bei­tung und um die Frage, ob Daten in ein Dritt­land über­mit­telt wer­den, etwa wenn cloud­ba­sierte KI-Anbie­ter außer­halb der EU ein­ge­bun­den sind.

Dane­ben sollte man auch die KI-VO im Hin­ter­kopf behal­ten. Arti­kel 4 ver­langt von Fir­men, nach bes­ten Kräf­ten ein aus­rei­chen­des Maß an KI-Kom­pe­tenz sicher­zu­stel­len. Das klingt zunächst abs­trakt, ist im Kern aber ziem­lich all­tags­nah: Wer sol­che Sys­teme beruf­lich nutzt, sollte zumin­dest ver­ste­hen, wie sie funk­tio­nie­ren, wo ihre Gren­zen lie­gen und wel­che Risi­ken ihr Ein­satz für andere mit sich brin­gen kann.

Die Cowor­king-Frage bleibt trotz­dem ein guter Ausgangspunkt

Der Aus­gangs­punkt war ein Cowor­king-Space. Da wir unsere Büros seit vie­len Jah­ren in einem Cowor­king-Space haben, finde ich nach wie vor, dass die­ser Rah­men das Thema beson­ders gut sicht­bar macht. Im Cowor­king-Space arbei­ten unter­schied­li­che Unter­neh­men dicht neben­ein­an­der, es gibt spon­tane Gesprä­che, wech­selnde Ver­trau­lich­keits­ni­veaus und viele Situa­tio­nen, in denen Dritte unbe­ab­sich­tigt mit erfasst wer­den könn­ten oder sich zumin­dest nicht mehr sicher fühlen.

Cowor­king ist hier der Mikro­kos­mos. Das­selbe Mus­ter gibt es im Unter­neh­men, beim Kun­den­ter­min im Café, im Restau­rant oder unter­wegs im Zug. Immer wenn beruf­li­che Kom­mu­ni­ka­tion in halb­öf­fent­li­chen oder gemein­sam genutz­ten Räu­men statt­fin­det, kol­li­diert die Leich­tig­keit sol­cher Tools mit dem berech­tig­ten Inter­esse ande­rer an Ver­trau­lich­keit und Transparenz.

Haus­recht wirkt oft schnel­ler als jede Grundsatzdebatte

Inter­es­sant ist in die­sem Zusam­men­hang die aktu­elle Debatte um Smart Glas­ses in Schwimm­bä­dern. In Pots­dam wer­den smarte Bril­len mit Kame­ras und Mikro­fo­nen künf­tig aus­drück­lich über die Haus- und Bade­ord­nung ver­bo­ten. Ber­lin geht bis­lang kei­nen Son­der­weg und ver­weist dar­auf, dass die bestehen­den Foto- und Film­ver­bote frem­der Per­so­nen Smart Glas­ses bereits mit abde­cken. Auch daran sieht man: Nicht jede Reak­tion muss gleich über neue Spe­zi­al­ge­setze lau­fen; oft ist das Haus­recht der nahe­lie­gende Hebel, um mit neuen Tech­no­lo­gien umzugehen.

Genau des­halb fand ich die Frage des Teil­neh­mers so nach­voll­zieh­bar. Sie zielt letzt­lich nicht nur auf Tech­nik, son­dern auf Ver­ant­wor­tung. Was muss ich als Betrei­ber oder Unter­neh­mer regeln, wenn ich merke, dass sol­che Geräte in mei­nem Umfeld auf­tau­chen? Die Ant­wort wird nicht immer in einem pau­scha­len Ver­bot lie­gen. Aber Nichts­tun wirkt zuneh­mend auch nicht mehr wie eine beson­ders trag­fä­hige Strategie.

Wer tie­fer ein­stei­gen will

Wer die recht­li­che Dimen­sion ver­tie­fen möchte, fin­det in der (sehr lan­gen) Mono­gra­fie von Tho­mas Schwenke eine umfas­sende rechts­wis­sen­schaft­li­che Betrach­tung zur pri­va­ten Nut­zung von Smart Glas­ses im öffent­li­chen Raum.

Was ich Unter­neh­mern prag­ma­tisch raten würde

Unter­neh­mer soll­ten das Thema nicht erst dann anfas­sen, wenn es den ers­ten kon­kre­ten Kon­flikt gibt. Sinn­vol­ler ist es, früh Erwar­tun­gen zu for­mu­lie­ren: Wel­che Mit­schnitte sind in wel­chen Situa­tio­nen tabu, wo braucht es aus­drück­li­che Trans­pa­renz, wel­che Gesprächs­kon­texte wer­den von sol­chen Tools ganz bewusst aus­ge­nom­men und wie gehen Mit­ar­bei­tende oder Betrei­ber mit Zwei­fels­fäl­len um?

Dazu gehört auch, neue Tools nicht ein­fach nur unter Effi­zi­enz­ge­sichts­punk­ten ein­zu­füh­ren, son­dern Daten­flüsse, mög­li­che Dritt­land­trans­fers und den kon­kre­ten Nut­zungs­kon­text mit­zu­den­ken. Und nicht zuletzt sollte die Schu­lungs­pflicht aus Arti­kel 4 KI-VO ernst genom­men wer­den: Wer KI-Sys­teme beruf­lich ein­setzt, muss dafür sor­gen, dass Mit­ar­bei­tende Funk­ti­ons­weise, Gren­zen und Risi­ken zumin­dest so weit ver­ste­hen, dass aus gut gemein­ter Nut­zung keine com­pli­ance-blinde Rou­tine wird.

Mein Fazit

Ich würde diese Tech­nik nicht reflex­haft ver­teu­feln. Vie­les daran ist prak­tisch, zahl­rei­ches wird blei­ben und nicht jede Nut­zung ist auto­ma­tisch pro­ble­ma­tisch. Aber genau weil diese Werk­zeuge so nütz­lich sind, sollte man sie nicht vor­schnell als harm­lose Neben­sa­che behandeln.

Was mich an der Frage aus der Schu­lung hän­gen geblie­ben lässt, ist letzt­lich weni­ger die Haf­tungs­frage im engen Sinn. Es ist eher die Beob­ach­tung, dass sich eine neue Nor­ma­li­tät ein­schleicht. Wenn Mit­schnitte und KI-Zusam­men­fas­sun­gen im beruf­li­chen All­tag bei­läu­fig wer­den, gera­ten Trans­pa­renz, Ver­trau­lich­keit und das Schutz­in­ter­esse ande­rer schnell unter die Räder. Und genau des­halb lohnt es sich, das Thema jetzt anzu­spre­chen: ruhig und ohne Alar­mis­mus, aber eben auch nicht mehr naiv.