Zum Hauptinhalt springen
Benchmarks

Wir messen unsere juristische KI öffentlich

Jede Version von Attorly wird anhand korpusverifizierter Aufgaben zum Auffinden von Rechtsquellen in vier Rechtsordnungen gemessen. Die neuesten Ergebnisse — bestandene und nicht bestandene Aufgaben sowie die Methodik — werden hier veröffentlicht.

Neueste Ergebnisse

100%
Bestehensquote
37
Bewertete Aufgaben
4
Rechtsordnungen
21.09.2026
Letzter Lauf
Build 9b4511f58
RechtsordnungAufgabenBestandenBestehensquote
Norwegen1111100%
Schweden99100%
Dänemark99100%
Deutschland88100%

So funktioniert der Benchmark

Jede Aufgabe beschreibt einen Rechtsfall so, wie ihn ein echter Nutzer formulieren würde — als Fallzusammenfassung oder Rechercheanfrage — und fragt unsere Retrieval-Pipeline nach den relevantesten Rechtsquellen. Die Aufgabe gilt nur dann als bestanden, wenn die Gesetze, die den Fall tatsächlich regeln, in den Ergebnissen erscheinen.

Die Anfragen nennen das maßgebliche Gesetz bewusst nie — es zu nennen, würde das Auffinden trivial machen und nichts messen. Jede Aufgabe wird vor der Aufnahme gegen den offiziellen Rechtsquellenkorpus ihrer Rechtsordnung verifiziert.

Das maßgebliche Recht erscheint

Jedes Gesetz, das den Fall regelt, muss in den gefundenen Quellen erscheinen. Fehlt das maßgebliche Recht, gilt die Aufgabe als nicht bestanden.

Rauschen bleibt draußen

Bekannte tangentiale Quellen — plausibel wirkende, aber irrelevante Gesetze — dürfen nicht erscheinen. Erscheint solches Rauschen, gilt die Aufgabe als nicht bestanden.

Ranking-Disziplin

Bei ausgewählten Aufgaben muss das maßgebliche Gesetz ganz oben in den Ergebnissen stehen, nicht nur irgendwo darin.

Ergebnisse pro Aufgabe

Die Aufgabenbeschreibungen werden auf Englisch angezeigt — sie sind die Quelldaten des Benchmarks und in allen Sprachen identisch.

AufgabeRechtsordnungErgebnis
no-tenancy-depositTenancy: landlord withholding a deposit after move-outNorwegenBestanden
no-criminal-embezzlementCriminal defence: gross embezzlement (the Fredrik regression guard)NorwegenBestanden
no-employment-dismissalEmployment: contested dismissal / unfair terminationNorwegenBestanden
no-family-custodyFamily: parental responsibility and where the child livesNorwegenBestanden
no-sale-defectContract: defect in a commercial sale of goodsNorwegenBestanden
no-company-sharesCorporate: shareholder dispute in a limited companyNorwegenBestanden
no-personal-dataPrivacy: unlawful processing of personal dataNorwegenBestanden
no-inheritanceInheritance: distribution of an estate and forced shareNorwegenBestanden
no-bankruptcy-supplierInsolvency: supplier stopped paying, creditor weighs bankruptcy petitionNorwegenBestanden
no-house-hidden-defectsReal property: hidden defects after buying a house (avhendingslova, NOT tenancy)NorwegenBestanden
no-stale-invoice-claimLimitation: collecting on a years-old unpaid invoice (foreldelsesloven)NorwegenBestanden
se-employment-dismissalEmployment: contested dismissal (Lagen om anställningsskydd)SchwedenBestanden
se-consumer-saleConsumer: defective goods purchased by a consumer (Konsumentköplagen)SchwedenBestanden
se-company-sharesCorporate: minority shareholder dispute (Aktiebolagslagen)SchwedenBestanden
se-discriminationEmployment: workplace discrimination (Diskrimineringslagen)SchwedenBestanden
se-family-custodyFamily: custody and residence after separation (Föräldrabalken)SchwedenBestanden
se-criminal-embezzlementCriminal defence: embezzlement (Brottsbalken)SchwedenBestanden
se-inheritance-forced-shareInheritance: estate division and the children's reserved share (Ärvdabalken)SchwedenBestanden
se-tenancy-evictionTenancy: landlord terminating a lease — hyresrätt lives in Jordabalken, a hard mappingSchwedenBestanden
se-stale-debt-claimLimitation: enforcing an old consumer debt (Preskriptionslag)SchwedenBestanden
dk-employment-dismissalEmployment: salaried-employee dismissal (Funktionærloven)DänemarkBestanden
dk-sale-defectSale: defective goods and right to reject (Købeloven)DänemarkBestanden
dk-company-sharesCorporate: shareholder dispute in a capital company (Selskabsloven)DänemarkBestanden
dk-family-custodyFamily: parental responsibility and residence (Forældreansvarsloven)DänemarkBestanden
dk-inheritanceInheritance: estate distribution and forced share (Arveloven)DänemarkBestanden
dk-criminal-embezzlementCriminal defence: embezzlement (Straffeloven)DänemarkBestanden
dk-holiday-pay-exitEmployment: holiday pay owed when an employee resigns (Ferieloven)DänemarkBestanden
dk-employee-dataData protection: employer monitoring employee e-mail (Databeskyttelsesloven)DänemarkBestanden
dk-divorce-assetsFamily: division of assets at divorce (Ægtefælleloven)DänemarkBestanden
de-employment-dismissalEmployment: unfair dismissal protection (Kündigungsschutzgesetz)DeutschlandBestanden
de-criminal-embezzlementCriminal defence: embezzlement (Strafgesetzbuch)DeutschlandBestanden
de-sale-defectSale: defective goods and buyer remedies (Bürgerliches Gesetzbuch)DeutschlandBestanden
de-gmbh-formationCorporate: founding a GmbH, share capital and managing-director duties (GmbHG)DeutschlandBestanden
de-insolvency-filing-dutyInsolvency: over-indebted company and the duty to file (Insolvenzordnung)DeutschlandBestanden
de-working-time-overtimeEmployment: overtime limits and rest periods (Arbeitszeitgesetz)DeutschlandBestanden
de-works-council-codeterminationEmployment: works council consultation before restructuring (BetrVG)DeutschlandBestanden
de-misleading-advertisingCompetition: competitor runs misleading price advertising (UWG)DeutschlandBestanden

Quellenangaben des Assistenten

Misst, ob die Quellenangaben des Assistenten beim einschlägigen Recht bleiben: Für jede Frage werden die obersten Quellen gegen eine Liste klar sachfremder Gesetze geprüft. Ein Verweis auf z. B. Seearbeitsrecht bei einer gewöhnlichen Kündigungsfrage zählt als Rauschen.

100%
Bestehensquote
0%
Rauschanteil
0 von 36 Angaben
12
Bewertete Aufgaben
21.09.2026
Letzter Lauf
Build 9b4511f58
AufgabeRechtsordnungRauschenErgebnis
no-chip-employment-dismissalEmployment chips: office dismissal must not surface maritime-labour lawNorwegen0/4Bestanden
no-chip-employment-overtimeEmployment chips: unpaid retail overtimeNorwegen0/2Bestanden
no-chip-employment-temp-contractsEmployment chips: serial temporary contracts, claim to permanent employmentNorwegen0/3Bestanden
no-chip-employment-harassmentEmployment chips: whistleblowing about harassment at the officeNorwegen0/3Bestanden
no-chip-employment-holiday-payEmployment chips: holiday pay not paid out after quittingNorwegen0/3Bestanden
no-chip-family-custodyFamily chips: residence and contact after a breakupNorwegen0/5Bestanden
no-chip-family-divorce-assetsFamily chips: division of marital property and skjevdelingNorwegen0/2Bestanden
no-chip-family-child-supportFamily chips: disagreement about child supportNorwegen0/3Bestanden
no-chip-consumer-used-carConsumer chips: used car from a dealer with hidden defectsNorwegen0/3Bestanden
no-chip-consumer-craftsmanConsumer chips: botched bathroom renovation by a craftsmanNorwegen0/3Bestanden
no-chip-consumer-online-cancellationConsumer chips: right of withdrawal on an online purchaseNorwegen0/3Bestanden
no-chip-housing-depositHousing chips: landlord withholding the deposit after move-outNorwegen0/2Bestanden

Genauigkeit der Quellenprüfung

Nach jeder belegten Antwort prüft der Assistent jede Quellenangabe gegen den Text der Quelle, auf die sie verweist, und markiert sie als bestätigt, teilweise gestützt oder nicht gestützt. Dieser Benchmark misst den Prüfer selbst an beschrifteten Paaren aus einer Behauptung und einem wörtlichen Gesetzesauszug mit bekannter Antwort.

Die Hälfte der Paare sind Beinahe-Treffer: das richtige Gesetz, aber die falsche Frist, Summe oder Partei – der Fall, den ein nachsichtiger Prüfer durchwinkt. Eine Fehlfreigabe, eine nicht gestützte Behauptung als bestätigt markiert, ist die Zahl, die zählt; eine Fehlablehnung kostet den Leser nur eine zweite Prüfung.

97%
Bestehensquote
0
Fehlfreigaben
0 von 16 nicht gestützten Behauptungen
34
Bewertete Aufgaben
21.09.2026
Letzter Lauf
Build 9b4511f58
AufgabeRechtsordnungErwartetPrüfer sagteErgebnis
no-aml-15-3-notice-one-monthaml § 15-3 (NL/lov/2005-06-17-62): default one-month mutual notice period restatedNorwegenGestütztBestätigtBestanden
no-aml-15-3-notice-three-months-near-missaml § 15-3: claim states a three-month default notice period (statute says one month)NorwegenNicht gestütztNicht gestütztBestanden
no-aml-15-3-five-years-two-monthsaml § 15-3 (2): at least two months after five years of continuous employmentNorwegenGestütztBestätigtBestanden
no-aml-15-1-consultation-before-dismissalaml § 15-1: employer must consult the employee before deciding on dismissalNorwegenGestütztNicht gestütztNicht bestanden
no-aml-15-1-consultation-optional-near-missaml § 15-1: claim says the consultation is optional for the employer (statute makes it a duty)NorwegenNicht gestütztNicht gestütztBestanden
no-aml-15-4-written-formaml § 15-4: dismissal must be in writingNorwegenGestütztBestätigtBestanden
no-husleie-3-5-deposit-six-monthshusleieloven § 3-5 (NL/lov/1999-03-26-17): deposit capped at six months of rentNorwegenGestütztBestätigtBestanden
no-husleie-3-5-deposit-three-months-near-misshusleieloven § 3-5: claim caps the deposit at three months (statute says six)NorwegenNicht gestütztNicht gestütztBestanden
no-husleie-3-5-off-topic-noticehusleieloven § 3-5 (deposit) cited for a claim about notice periods in employmentNorwegenNicht gestütztNicht gestütztBestanden
no-fkjl-27-two-year-limitforbrukerkjøpsloven § 27 (NL/lov/2002-06-21-34): absolute two-year complaint deadline, five for durable goodsNorwegenGestütztBestätigtBestanden
no-fkjl-27-three-year-near-missforbrukerkjøpsloven § 27: claim states a three-year absolute deadline (statute says two / five)NorwegenNicht gestütztNicht gestütztBestanden
no-ferie-5-off-topic-depositferieloven § 5 (NL/lov/1988-04-29-21, holiday length) cited for a claim about rent depositsNorwegenNicht gestütztNicht gestütztBestanden
se-las-11-minimum-one-monthLAS 11 § (sfs-1982-80): minimum one-month notice for both partiesSchwedenGestütztBestätigtBestanden
se-las-11-four-years-three-monthsLAS 11 §: three months after at least four but under six years of employmentSchwedenGestütztBestätigtBestanden
se-las-11-ten-years-twelve-months-near-missLAS 11 §: claim gives twelve months after ten years (statute says six)SchwedenNicht gestütztNicht gestütztBestanden
se-semester-4-twenty-five-dayssemesterlagen 4 § (sfs-1977-480): twenty-five days of holiday per yearSchwedenGestütztBestätigtBestanden
se-semester-4-thirty-days-near-misssemesterlagen 4 §: claim gives thirty days (statute says twenty-five)SchwedenNicht gestütztNicht gestütztBestanden
se-kkl-5-2-two-months-always-timelykonsumentköplagen 5 kap. 2 § (sfs-2022-260): a complaint within two months of noticing is always timelySchwedenGestütztBestätigtBestanden
se-kkl-5-2-off-topic-noticekonsumentköplagen 5 kap. 2 § (complaints) cited for a claim about employment noticeSchwedenNicht gestütztNicht gestütztBestanden
dk-ful-2-three-months-after-sixfunktionærloven § 2 (lta/2017/1002): three months notice from the employer after six months of employmentDänemarkGestütztBestätigtBestanden
dk-ful-2-cap-six-monthsfunktionærloven § 2, stk. 3: the notice period grows by one month per three years, capped at six monthsDänemarkGestütztBestätigtBestanden
dk-ful-2-cap-nine-months-near-missfunktionærloven § 2: claim caps the notice period at nine months (statute says six)DänemarkNicht gestütztNicht gestütztBestanden
dk-kbl-83-two-year-limitkøbeloven § 83 (lta/2021/1853): defects must be raised within two years of deliveryDänemarkGestütztBestätigtBestanden
dk-kbl-83-five-year-near-misskøbeloven § 83: claim states a five-year absolute deadline (statute says two)DänemarkNicht gestütztNicht gestütztBestanden
dk-ferie-5-off-topic-noticeferieloven § 5 (lta/2024/152, holiday accrual) cited for a claim about notice periodsDänemarkNicht gestütztNicht gestütztBestanden
de-bgb-622-four-weeks-basicBGB § 622 (1) (bgb): basic four-week notice to the 15th or month endDeutschlandGestütztBestätigtBestanden
de-bgb-622-five-years-two-monthsBGB § 622 (2) Nr. 2: two months after five years for an employer terminationDeutschlandGestütztBestätigtBestanden
de-bgb-622-probation-four-weeks-near-missBGB § 622 (3): claim gives four weeks during probation (statute says two weeks)DeutschlandNicht gestütztNicht gestütztBestanden
de-bgb-551-deposit-three-monthsBGB § 551 (1): rent deposit capped at three months of net rentDeutschlandGestütztBestätigtBestanden
de-bgb-551-deposit-six-months-near-missBGB § 551: claim allows six months of rent as deposit (statute says three)DeutschlandNicht gestütztNicht gestütztBestanden
de-kschg-1-six-months-thresholdKSchG § 1 (1) (kschg): protection applies after more than six months of uninterrupted employmentDeutschlandGestütztBestätigtBestanden
de-kschg-4-three-week-deadlineKSchG § 4: claim must be filed within three weeks of receiving the written terminationDeutschlandGestütztBestätigtBestanden
de-kschg-4-four-week-near-missKSchG § 4: claim gives a four-week filing deadline (statute says three weeks)DeutschlandNicht gestütztNicht gestütztBestanden
de-kschg-1-off-topic-depositKSchG § 1 (dismissal protection) cited for a claim about rent depositsDeutschlandNicht gestütztNicht gestütztBestanden

Was das zeigt — und was nicht

  • Dies ist ein interner Benchmark, von uns erstellt und bewertet. Er ist keine unabhängige Evaluierung — verstehen Sie ihn als unseren eigenen Qualitätsmaßstab, veröffentlicht, damit Sie uns daran messen können.
  • Er misst das Auffinden von Rechtsquellen — ob für einen Fall das richtige Recht erscheint. Er misst nicht die Qualität entworfener Texte oder vollständiger Antworten.
  • Die Ergebnisse werden für jede ausgerollte Version automatisch erzeugt und unbearbeitet veröffentlicht — einschließlich der Fehlschläge.