France Vehar

EU Kommission veröffentlicht Vorschlag des ‚Artificial Intelligence Act‘ – Die Kernpunkte des Game Changers zur Regulierung von Künstlicher Intelligenz im Überblick

By France Vehar / 21 April 2021 / Artificial Intelligence Act, KI, Künstliche Intelligenz

Von France Vehar und Jan Pohle

Die Europäische Kommission hat heute den von Unternehmen, Mitgliedsstaaten und Vertreten der Zivilgesellschaft mit Spannung erwarteten Entwurf einer Verordnung zur Regulierung von Künstlicher Intelligenz (KI), den ‚Artificial Intelligence Act‘)‚ veröffentlicht.

Der Entwurf folgt auf das ‚Weißbuch zur Künstlichen Intelligenz‘ der Kommission aus dem vergangenen Jahr‚ und führt dessen risikobasierten Ansatz fort. Er bildet den Ausgangspunkt für die Regulierung von KI in der EU. Während bislang viele Regulierungsansätze von Soft Law bis zu einer Verordnung diskutiert wurden, ist der Entwurf dieser Verordnung der Anker für Regulierung, wie ihn sich die Kommission vorstellt. Der Gesetzentwurf wird nun zur weiteren Diskussion und Abstimmung durch das Europäische Parlament gestellt.

Während der Entwurf hehre Ziele verfolgt, stellt er Unternehmen vor gewaltige Herausforderungen, unter anderem durch neue Anforderungen beim Einsatz von KI-Systemen, insbesondere von sogenannter ‚Hochrisiko-KI‘, der Möglichkeit der Untersagung des Einsatzes von KI-Systemen in bestimmten Fällen und dem Risiko von Bußgeldern von in bestimmten Fällen bis zu 30.000.000 EUR bzw. 6% des weltweiten Jahresumsatzes. Er verbietet zudem einige Fallgruppen von KI vollständig bzw. grundsätzlich. Da KI-Systeme die Lebensbereiche aller Bürger erreichen, ist der Entwurf auch gesamtgesellschaftlich von hoher Relevanz.

Dieser Beitrag zeigt die Kernpunkte des Entwurfs auf und gibt einen Ausblick auf den weiteren legislativen Prozess.

Regulatory Pressure For Cybersecurity Increases: Key Aspects of the German Federal Government’s Draft Bill for an IT Security Act 2.0 and Next Steps in the Legislative Process

By France Vehar / 20 April 2021 / cybersecurity, IT-SiG 2.0

By France Vehar and Jan Pohle

On 16 December 2020 the German Federal Government passed a draft bill for a ‘Second Bill To Increase The Security of Information Technology Systems’ (‘Entwurf eines Zweiten Gesetzes zur Erhöhung der Sicherheit informationstechnischer Systeme’, “IT-SiG 2.0-E”). The IT SiG 2.0 is now up for adoption by the German Bundestag. The German Federal Government seeks to have such law adopted by the end of this legislative period (i.e. in early autumn 2021).

Adding on the first ‘Bill To Increase The Security of Information Technology Systems’ of 17 July 2015 (“IT-SiG”), the purpose of the IT-SiG 2.0-E is to implement proceedings to avert threats to cyber and information security for the state, the economy and society. While such goals are pivotal to pursue, the planned measures certainly have a significant impact on operations of companies. In essence, the draft introduces more rights of the Federal Office for Information Security (‘Bundesamt für Sicherheit in der Informationstechnik’, “BSI”) and more obligations and risk of higher administrative fines for so-called operators of critical infrastructures, companies of special public interest (‘Unternehmen im besonderen öffentlichen Interesse’) and manufacturer of critical components.

The IT-SiG sets out amendments to the Act of the Federal Office for Information Security (‘Gesetz über das Bundesamt für Sicherheit in der Informationstechnik’, “BSIG-E”) and respective changes in a few other laws (German Telecommunications Act (‘Telekommunikationsgesetz’, “TKG”), Law On Electricity And Gas Supply (‘Gesetz über die Elektrizitäts- und Gasversorgung’, “EnWG”), the Foreign Trade and Payments Regulation (‘Außenwirtschaftsverordnung’, „AWV”) and Volume X of the Social Insurance Code (‘Zehnte Buch Sozialgesetzbuch’, “SGB X”).

This article sets out the key planned changes of the Federal German Government’s draft IT-SiG 2.0 of 16 December 2020 to the current law and outlines the next steps in the legal proceedings, such as a decision on requests for amendments to the IT-SiG 2.0-E by the German parties CDU/CSU and SPD of 20 April 2021 which is on the agenda of the German Bundestag on Friday 23 April 2021.

Legal challenges of AI based Big Data analyses in companies and company group based environments – DLA Piper keynote speech at DGRI international expert meeting

By France Vehar / 12 July 2019 / AI, Artificial Intelligence, Big Data, Competition Law, IT/Datenschutz

Our attorneys Dr. Thorsten Ammann (IPT, Cologne), Dr. Gregor Schroll LL.M. (Litigation and Regulatory, Cologne), Mag. Stefan Panic (IPT, Vienna) and Mag. Annika Wanderer LL.M. (Litigation and Regulatory, Vienna) followed the German Association for Law and Informatics’ (“Deutsche Gesellschaft für Recht und Informatik – DGRI”) invitation to deliver a use-case driven keynote speech on legal challenges of Artificial Intelligence based Big Data analyses in companies and company group based environments at the 26th International Meeting for German, Austrian and Swiss expert lawyers (“DGRI Drei-Länder-Treffen”) from 27 to 29 June 2019 in Krems (Austria).

Biomarker-based cancer diagnostics: German pricing regulator sets high validation and reimbursement standards for novel diagnostic methods

By France Vehar / 10 July 2019 / biomarker-based test, Commercial, gene expression analysis, Life Sciences, Novel diagnostic methods, Oncology

On 20 June 2019, for the first time, the German Federal Joint Committee (FJC − Gemeinsamer Bundesausschuss / G-BA), the highest decision-making body of the joint self-government of physicians, dentists, hospitals and statutory health insurance funds (SHI − gesetzliche Krankenversicherung / GKV) in Germany, made the resolution that a specific biomarker-based test to support the treatment decision for or against adjuvant chemotherapy, i. e. after primary surgery, in certain breast cancer patients may be reimbursed by the SHIs. The present resolution is of general importance. The FJC, inter alia, has further specified the validation standards for novel diagnostic methods. The reimbursement of various biomarker-based diagnostics for the use in breast cancer treatment is currently under assessment also in other European jurisdictions, partly with a patchwork of different standards and outcomes.

An increasing number of biomarker-based tests which claim to identify those breast cancer patients who will benefit from adjuvant chemotherapy have in recent years also entered the German healthcare market. While such diagnostics can be very expensive (up to approximately 3,000.00 euros per test) and, up until now, have to be paid by the patients themselves, the actual benefit and risks of those tests often remain unclear. As the main grounds of the present resolution of the FJC and the oral consultation proceedings illustrate, the threshold for a positive assessment and reimbursement of novel medical methods can be very high, particularly, in case biomarker-based diagnostics may potentially lead to the complete omission of a necessary standard treatment of a life threatening disease.

Deutsche Zusammenfassung:

Am 20. Juni 2019 beschloss der Gemeinsame Bundesausschuss (G-BA), das oberste Entscheidungsgremium der gemeinsamen Selbstverwaltung von Ärzten, Zahnärzten, Krankenhäusern und gesetzlichen Krankenkassen (GKV) in Deutschland, erstmals, dass ein spezifischer biomarkerbasierter Diagnosetest zur Unterstützung der Behandlungsentscheidung für oder gegen die adjuvante Chemotherapie, d. h. nach einer primären Operation, bei bestimmten Brustkrebspatientinnen von der GKV erstattet werden kann. Der vorliegende Beschluss ist von allgemeiner Bedeutung. Der G-BA hat unter anderem die Validierungsstandards für neuartige Diagnosemethoden weiter spezifiziert. Die Erstattung mehrerer biomarkerbasierter Diagnostika für den Einsatz in der (Brust-)Krebsbehandlung wird derzeit auch in anderen europäischen Ländern geprüft, teils mit unterschiedlichen Standards und Ergebnissen.

Immer mehr biomarkerbasierte Tests, die behaupten, diejenigen Brustkrebspatientinnen zu identifizieren, die von einer adjuvanten Chemotherapie profitieren werden, sind in den letzten Jahren auch auf den deutschen Gesundheitsmarkt gekommen. Während solche Diagnostika sehr teuer sein können (bis zu ca. 3.000,00 Euro pro Test) und bislang von Patientinnen selbst bezahlt werden müssen, bleiben der tatsächliche Nutzen und die Risiken dieser Tests oft unklar. Wie die tragenden Gründe zum vorliegenden Beschluss des G-BA und die mündlichen Anhörungsverfahren verdeutlichen, können die Hürden für eine positive Bewertung und Kostenerstattung neuartiger medizinischer Methoden sehr hoch sein, insbesondere wenn biomarkerbasierte Diagnostika möglicherweise zum gänzlichen Verzicht auf eine notwendige Standardbehandlung einer lebensbedrohlichen Krankheit führen können.

Medical Cannabis: An analysis of the landmark decision of the Düsseldorf Higher Regional Court stopping the import and sales of cannabis extracts for medical purposes without marketing authorization

By France Vehar / 15 May 2019 / Commercial, Life Sciences, Marken-/Wettbewerbs- und Urheberrecht, Medical cannabis, Medizinisches Cannabis

In a landmark preliminary injunction of 2 August 2018 (docket no. 15 U 21/18), the Düsseldorf Higher Regional Court ruled that, under the circumstances of the individual case, a medical cannabis product may, due to the way it is objectively presented, trigger the marketing authorization requirement for so-called “finished medicinal products” (“Fertigarzneimittel”). This may particularly be the case if the product, in its specific form, can objectively be used as a finished medicinal product, even though it is only intended as a component for the manufacture of magistral medicinal preparations (“Rezepturarzneimittel“) in pharmacies. As a consequence, the placing of such a cannabis product on the German market may be prohibited as an unfair competition practice in case there is no marketing authorization for the specific product in place.

This decision has been quite unique so far and of particular relevance for the rapidly growing medical cannabis market in Germany since it implies that cannabis products intended only as components for the manufacture of magistral medicinal preparations, e. g. cannabis extracts, may nevertheless have to go through the entire marketing approval process and, hence, extensive clinical trials like any other finished medicinal product prior to placing them on the German market if they are objectively presented as a finished medicinal product.

Deutsche Zusammenfassung:

Das OLG Düsseldorf hat in einer wegweisenden einstweiligen Verfügung am 2. August 2018 (Az. 15 U 21/18) entschieden, dass ein medizinisches Cannabisprodukt im Einzelfall aufgrund seiner objektiven Aufmachung die Zulassungspflicht für sogenannte “Fertigarzneimittel” auslösen kann. Dies kann insbesondere dann der Fall sein, wenn das Produkt in der konkreten Gestalt objektiv als Fertigarzneimittel verwendet werden kann, obwohl es nur als Bestandteil für die Herstellung eines sogenannten “Rezepturarzneimittels” in Apotheken bestimmt ist. Das Inverkehrbringen eines solchen Cannabisprodukts in Deutschland kann als unlautere Wettbewerbshandlung untersagt werden, wenn es arzneimittelrechtlich nicht zugelassen ist.

Diese Entscheidung ist bislang einzigartig und für den rasant wachsenden Markt für medizinisches Cannabis in Deutschland von erheblicher Bedeutung, da sie impliziert, dass Cannabisprodukte, die nur als Komponenten für Rezepturarzneimittel bestimmt sind, wie z.B. Cannabisextrakte, dennoch aufgrund ihrer objektiven Aufmachung als Fertigarzneimittel das gesamte Zulassungsverfahren und damit insbesondere umfangreiche klinische Studien durchlaufen müssen, bevor diese in Deutschland in den Verkehr gebracht werden dürfen.

Datenschutzrechtliche Anforderungen an KI – Die sieben Konkretisierungen der „Hambacher Erklärung” der Datenschutzkonferenz

By France Vehar / 26 April 2019 / AI, Artificial Intelligence, Datenschutz, DSGVO, GDPR, Hambacher Erklärung, IT/Datenschutz, KI, Künstliche Intelligenz

Daten sind für Künstliche Intelligenz (“KI”) essentiell. KI-Systeme verarbeiten dabei oft auch personenbezogene Daten. Umso wichtiger wird für Unternehmen die Beantwortung der Frage, welche datenschutzrechtlichen Anforderungen bei KI-Systemen zu beachten sind. Auf der 97. Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder haben diese ihre Auffassung zu datenschutzrechtlichen Anforderungen an KI konkretisiert. Insbesondere die restriktive Auslegung bezüglich der Grundsätze der Zweckbindung und Datenminimierung wird Unternehmen in der Praxis vor Herausforderungen stellen. Die verabschiedete “Hambacher Erklärung zur Künstlichen Intelligenz” enthält sieben Anforderungen aus dem geltenden Datenschutzrecht, die bereits heute einzuhalten sind. Es lohnt sich für Unternehmen, diese Erklärung zu kennen. Dies nicht zuletzt mit Blick auf die hohen Bußgelder die bei Verstößen gegen die Datenschutz-Grundverordnung („DS-GVO“) im Raum stehen.

English Summary:

Data is essential for artificial intelligence (“AI”). AI systems often also process personal data. Therefore for companies the answer to the question which data protection requirements have to be adhered to regarding AI systems is important. At the 97th Conference of the Data Protection Supervisory Authorities of the Federal and State Governments, these authorities specified the data protection requirements for AI. Especially their restrictive interpretation of the principals of purpose restriction and data minimization will pose significant challenges for companies. The adopted “Hambach Declaration on Artificial Intelligence (“Hambacher Erklärung zur Künstlichen Intelligenz“) stipulates seven data protection requirements, which must already be complied with today based on current data protection laws. It is worthwhile for companies to be familiar with this declaration, not least in view of the high fines which can be imposed in case of GDPR violations.

IT-Sicherheitsgesetz 2.0 – Heiligt der Zweck die Mittel?

By France Vehar / 18 April 2019 / BSI, BSIG, IT/Datenschutz

Jüngst ist ein Referentenentwurf des Bundesinnenministeriums für ein IT-Sicherheitsgesetz 2.0 (IT-SiG 2.0) bekannt geworden. Der Entwurf hat Änderungen des Gesetzes über das Bundesamt für Sicherheit in der Informationstechnik (BSIG) zum Gegenstand (BSIG-E). Das Ministerium verfolgt mit dem Entwurf das Ziel, Bedrohungen der Cyber- und Informationssicherheit von Staat, Wirtschaft und Gesellschaft, aber auch von Bürgern effektiv abzuwenden. Hierzu sind erhebliche Erweiterungen der Befugnisse des Bundesministeriums für Sicherheit in der Informationstechnik (BSI), neue Verbraucherschutzregelungen und Anpassungen von Vorschriften u.a. des StGB, der StPO, des TKG, des TMG und weiterer Gesetze vorgesehen.

English Summary

Recently, a draft bill of the German Federal Ministry of the Interior regarding the intended IT Security Act 2.0 (IT-SiG 2.0) became public. The draft bill is designed to amend the Act on the Federal Office for Information Security (BSIG). By such amendments the ministry is pursuing the goal of effectively averting threats to cyber and information security for the state, the economy and society, but also for citizens. To this end, the powers of the Federal Ministry for Information Security (BSI) are to be considerably extended.- In addition, new consumer protection regulations and adaptions of existing regulations are planned in the German Criminal Code (StGB), the Code of Criminal Procedure (StPO), the Telecommunications Act (TKG), the Telemedia Act (TMG) and other legislation.

(Please click here for full English version)

The draft for an IT Security Act 2.0 – does the end justify the means?

By France Vehar / 18 April 2019 / BSI, BSIG, IT/Datenschutz

Recently, the German Federal Ministry of the Interior introduced a draft bill for the planned IT Security Act 2.0 (IT-SiG 2.0), which amends the Act on the German Federal Office for Information Security (BSIG) (the draft referenced as BSIG-E). With this draft, the ministry is pursuing the goal of effectively averting threats to cyber and information security for the state, the economy and society, but also for citizens. To this end, the competences of the Federal Ministry for Information Security (BSI) are to be extended considerably. In addition, new consumer protection regulations and adaptions of German regulations are planned in the Criminal Code (StGB), the Code of Criminal Procedure (StPO), the Telecommunications Act (TKG), the Telemedia Act (TMG) and other legislation.

Die KI-Strategie der EU: Was ist 2019 zu erwarten?

By France Vehar / 5 March 2019 / AI, Artificial Intelligence, IT/Datenschutz, KI, Künstliche Intelligenz

Im April 2018 hat die EU-Kommission mit der Mitteilung „Künstliche Intelligenz für Europa“ ihre KI-Strategie vorgestellt. Anfang Dezember konkretisierte die EU ihre Vorhaben durch einen von den Mitgliedsstaaten sowie Norwegen gezeichneten Koordinationsplan. Am 18. Dezember 2018 hat die EU Kommission außerdem einen ersten Entwurf zu „Ethikrichtlinien für eine vertrauenswürdige künstliche Intelligenz“ veröffentlicht. Die EU intensiviert also ihre Bemühungen auf einem Feld, das zunehmend an Bedeutung gewinnt. Doch welche Ziele verfolgt die KI-Strategie und wie sollen sie in naher Zukunft umgesetzt werden?

In April 2018, the EU Commission presented its AI strategy with the Communication “Artificial Intelligence for Europe”. At the beginning of December, the EU put its plans into concrete terms with a coordination plan signed by the member states and Norway. On 18 December 2018, the EU Commission also published a first draft of “Ethics Guidelines for Trustworthy AI”. The EU is thus intensifying its efforts in a field that is becoming increasingly important. But what are the objectives of the AI strategy and how will they be implemented in the near future?

Die KI-Strategie der Bundesregierung: Entwicklungen in naher Zukunft

By France Vehar / 5 March 2019 / AI, Artificial Intelligence, IT/Datenschutz, KI, Künstliche Intelligenz

Die Bundesregierung hat mit der am 15. November 2018 verabschiedeten „Strategie Künstliche Intelligenz“ wichtige Meilensteine für die Entwicklung von KI „made in Germany“ gesetzt. Am 3. und 4. Dezember 2018 lud das Bundesministerium für Wirtschaft und Energie Vertreter aus Wirtschaft, Forschung, Industrie und Gesellschaft zum 18. Digital-Gipfel nach Nürnberg ein, um die Umsetzung der KI-Strategie zu diskutieren. Dies gibt Anlass, zu beleuchten, welche Maßnahmen und Beteiligungsmöglichkeiten die KI-Strategie vorsieht, und welche Entwicklungen in naher Zukunft zu erwarten sind.

With the “Strategy Artificial Intelligence” adopted on 15 November 2018, the Federal Government has set important milestones for the development of AI “made in Germany”. On 3 and 4 December 2018, the Federal Ministry of Economics and Energy invited representatives from industry, research, industry and society to the 18th Digital Summit in Nuremberg to discuss the implementation of the AI strategy. This provides an opportunity to shed light on the measures and participation opportunities that the AI strategy provides and what developments can be expected in the near future.