Kurateret omverdensblik
Aktuel viden
& nyheder.
Nyheder og analyser fra myndigheder, kommuner, universiteter og anerkendte faglige kilder — udvalgt efter deres relevans for offentlig praksis.
Viser 12 af 75 artikler · nyeste først · Nyhedsudvalget opdateret
EU: Bevar menneskelig kontrol over AI-agenter i forskning
Kommissionens opdaterede forskningsvejledning anbefaler menneskelige kontrolpunkter ved kritiske beslutninger, tydeligt ansvar og beskyttelse af fortrolige oplysninger ved brug af AI-agenter. Vores forslag til offentlige AI-forsøg er at aftale adgang, kontrolpunkter og dokumentation af værktøjer og versioner før start. Opdateringen er fra 16. oktober. Det er ikke-bindende vejledning til forskning, ikke nye kommunale regler eller dokumentation for driftseffekter.
Seneste signaler
02Anthropic giver METR adgang til intern risikovurdering03OECD: Gør brugen af AI-samtalers data tydelig04EU samler værktøjer til at skalere AI i offentlig forvaltning05Geografiske AI-agenter kobler faglige værktøjer med planlægning06OECD: Planlæg AI-regnekraft ud fra behov og robusthedFlere perspektiver
Mere viden fra omverdenen
AISI: Sikkerhed skal følge AI gennem hele udviklingen
AISI vil med udviklere og andre fagmiljøer udvikle frivillig praksis for risikovurdering, overvågning, hændelseshåndtering og uafhængig evaluering. Instituttet fremhæver risici allerede under interne tests og behovet for at vurdere model, værktøjer og beregningsbudget samlet. Det er en faglig dagsorden, ikke nye bindende krav. Vores forslag til offentlige piloter er at efterspørge dokumentation og aftale ansvar for kontrol før, under og efter opdateringer.
Åbn kildenInfrastrukturAI-forsøg sætter fokus på sikkerhed i små netværksenheder
Anthropic undersøger, om AI kan kopiere sig selv til andre enheder og starte modelkørsel der. Forsøgene viser dele af denne evne, men fuld spredning er testet i et stærkt forenklet, isoleret miljø. Leverandøren har ikke demonstreret en fuld autonom AI-orm i virkelige netværk. Vores forslag til offentlige it-miljøer er at gennemgå netværksadskillelse, enhedsadgang og mulighed for karantæne. En forventning om kommende kapabiliteter er ikke en konstateret hændelse.
Åbn kildenReguleringDatatilsynet: AI-hjemmel løser ikke alle databeskyttelseskrav
Datatilsynet har afgivet høringssvar til det reviderede AI-lovudkast. Tilsynet fremhæver, at myndigheder også skal afklare sikkerhed, borgernes rettigheder, tredjelandsoverførsler og ændrede formål før behandling af personoplysninger. Udkastet giver ikke hjemmel til fuldautomatiske afgørelser efter GDPR artikel 22. Der er fortsat tale om et lovudkast. Selve høringssvaret er endnu ikke offentliggjort; omtalen bygger på tilsynets nyhed fra 12. oktober.
Åbn kildenReguleringDataetisk Råd efterlyser klarere rammer for AI-beslutningsstøtte
I sit høringssvar af 12. oktober genfremsætter rådet anbefalinger til AI-lovudkastet. Det efterlyser tydelig menneskelig kontrol, fælles beskyttelse af følsomme oplysninger og retningslinjer for kvalitetssikring. Rådet beder også Folketinget overveje, om en bred AI-hjemmel er hensigtsmæssig. Vores forslag til kommunale projekter er at beskrive medarbejdernes ansvar, kompetencer og tid til at efterprøve AI-forslag. Det er rådets anbefalinger til et lovudkast, ikke nye bindende krav.
Åbn kildenReguleringEU-panel anbefaler stærkere kontrol af AI under udvikling og test
I opsamlingen fra 12. oktober anbefaler AI-panelets ledelse kontrol med interne modeller under udvikling og test, stærkere hændelsesundersøgelser og internationalt samarbejde. Den efterlyser også skærpet opmærksomhed på teknikker, der gør modeller sværere at overvåge. AI-kontoret har allerede modtaget rapporter om alvorlige hændelser og bedt om oplysninger om sikkerhedspraksis; Kommissionen vil sende yderligere spørgsmål til udbyderne. Vores forslag til offentlige piloter er at aftale overvågning og hændelsesansvar også før drift. Mødet fandt sted 9. oktober. Anbefalingerne er ikke nye bindende kommunale krav eller dokumentation for driftseffekter.
Åbn kildenAgenter & harnessLGA udgiver kommunal vejledning om AI-agenter
LGA har udgivet en første vejledning fra et kommunalt samarbejde ledet af North Yorkshire Council. Den kobler AI-agenters adgang og ansvar med medarbejderkompetencer og servicekvalitet. Materialet er praktisk vejledning under udvikling, ikke dokumentation for besparelser eller danske regler.
Åbn kilden