De AI-verordening voor legal tech en kantoren.

Hier lopen twee verschillende vragen door elkaar. "Is mijn legal-techproduct hoog risico?" is een indelingsvraagstuk met een met naam genoemde categorie uit bijlage III. "Wat vertel ik cliënten over AI in mijn kantoor?" is een vraagstuk van beroepsplichten, en de AI-verordening is daar maar een deel van.

Legal tech: bijlage III, punt 8 is smaller dan men aanneemt

Bijlage III, punt 8 dekt AI die bedoeld is om te worden gebruikt door een gerechtelijke autoriteit, of namens haar, om feiten en recht te onderzoeken en uit te leggen en om het recht toe te passen op een concrete reeks feiten. Het dekt ook systemen die bedoeld zijn om de uitslag van een verkiezing of het stemgedrag te beïnvloeden.

De bepalende woorden zijn "door een gerechtelijke autoriteit". Tooling die wordt verkocht aan advocatenkantoren, interne juridische teams of procespartijen valt over het algemeen niet onder punt 8. Een product voor contractbeoordeling dat een commercieel kantoor gebruikt, is geen systeem dat een rechter bijstaat. Leveranciers delen zichzelf hier stelselmatig te zwaar in.

Advocatenkantoren zijn gebruiksverantwoordelijken, en meestal van systemen met minimaal risico

Een kantoor dat AI gebruikt voor onderzoek, opstellen of documentbeoordeling is gebruiksverantwoordelijke van een systeem met minimaal risico. Hoofdstuk III geldt niet. Wat wel geldt:

• Artikel 4 - vastgelegde AI-geletterdheid voor advocaten en ondersteunend personeel. Voor een beroepsgroep waarvan de toezichthouders nu al naar AI-bekwaamheid vragen, is dit het goedkoopst denkbare bewijs.
• Artikel 50 - elke bot richting cliënten op de site van het kantoor meldt zich.
• Artikel 5 - geen afleiden van emoties bij personeel. Sommige monitoringtools voor legal ops hebben het aan boord.

Beroepsplichten bijten hier harder dan de AI-verordening. Vertrouwelijkheid en verschoningsrecht wanneer materiaal van cliënten in een model van een derde gaat, bekwaamheid wanneer output ongecontroleerd wordt ingediend, en de eigen aanwijzingen van rechtbanken over met AI opgestelde processtukken zijn in verschillende lidstaten actuele kwesties - en geen daarvan wordt door de AI-verordening geregeld. Een kantoor kan volledig voldoen aan de AI-verordening en toch in de problemen zitten bij zijn toezichthouder.

De vraag die cliënten werkelijk stellen

De meeste kantoren komen de AI-verordening tegen via cliënten, niet via hun eigen tooling. De terugkerende vraag is een variant van "ons product gebruikt AI, vallen wij eronder, en wat moeten wij doen?" - en het eerlijke antwoord vraagt meestal een gestructureerde doorloop van rol, GPAI-status, risiconiveau en de uitzondering van artikel 6(3) voordat het de moeite van declarabele tijd waard is.

Dat is het gat waarvoor dit tool is gebouwd. Een gedateerde, beredeneerde zelfbeoordeling die het product van de cliënt met naam noemt, maakt van het eerste uur van een opdracht een toetsing van een bestaande positie in plaats van een uitvraagsessie. Onze methodologie voor indeling is volledig gepubliceerd, zodat je kunt zien waar je het oneens zou zijn, en het voorbeeldrapport (in English) (in het Engels), over een fictief bedrijf, is volledig openbaar.

Reglynn is geen advocatenkantoor, geen aangemelde instantie, en geeft geen certificering af. Het is een gestructureerde zelfbeoordeling - uitdrukkelijk de input voor juridisch advies, geen vervanging ervan. Adviseer je cliënten op dit gebied en wil je onze redenering op een specifiek punt controleren, dan legt de changelog elke wijziging in onze indeling vast, en waarom.

Veelgestelde vragen

Is legal tech hoog risico onder de AI-verordening?

Meestal niet. Bijlage III, punt 8 dekt AI die bedoeld is om te worden gebruikt door een gerechtelijke autoriteit, of namens haar, om feiten en recht te onderzoeken en uit te leggen. Tooling die wordt verkocht aan advocatenkantoren, interne juridische teams of procespartijen valt daar over het algemeen buiten - een product voor contractbeoordeling dat een commercieel kantoor gebruikt, is geen systeem dat een rechter bijstaat.

Is AI voor contractbeoordeling gereguleerd?

Ze valt onder de verordening, maar is over het algemeen minimaal of beperkt risico. Documenten analyseren is geen gerechtelijke autoriteit bijstaan, en er wordt geen natuurlijke persoon beoordeeld. De melding uit artikel 50 geldt wel als de interface met gebruikers converseert.

Wat moet een advocatenkantoor dat AI gebruikt doen?

Een kantoor dat AI gebruikt voor onderzoek, opstellen of documentbeoordeling is gebruiksverantwoordelijke van een systeem met minimaal risico, dus hoofdstuk III geldt niet. Wat nu al wel geldt: AI-geletterdheid uit artikel 4 voor advocaten en ondersteunend personeel, de melding uit artikel 50 op elke bot richting cliënten, en artikel 5 - geen afleiden van emoties bij personeel.

Is scoring van recidive- of daderrisico hoog risico?

Ja, maar onder bijlage III, punt 6 over rechtshandhaving en niet onder punt 8. Dat punt dekt het beoordelen van het risico dat een persoon een strafbaar feit pleegt of opnieuw pleegt, en profilering van natuurlijke personen in die context.

Dekt de AI-verordening vertrouwelijkheid en verschoningsrecht?

Nee. Beroepsplichten rond vertrouwelijkheid, verschoningsrecht en bekwaamheid wanneer materiaal van cliënten in een model van een derde gaat, worden geregeld door je toezichthouder en de rechter, niet door de AI-verordening. Een kantoor kan volledig aan de verordening voldoen en toch beroepsmatig in de problemen zitten.