{"id":2195,"date":"2025-06-03T09:55:43","date_gmt":"2025-06-03T09:55:43","guid":{"rendered":"https:\/\/bedrecybersikkerhed.dk\/?p=2195"},"modified":"2025-06-03T10:01:31","modified_gmt":"2025-06-03T10:01:31","slug":"ingen-tvivl-ai-kan-goere-meget-godt-og-udrette-meget-skade","status":"publish","type":"post","link":"https:\/\/bedrecybersikkerhed.dk\/index.php\/2025\/06\/03\/ingen-tvivl-ai-kan-goere-meget-godt-og-udrette-meget-skade\/","title":{"rendered":"Ingen tvivl- AI kan g\u00f8re meget godt- og udrette meget skade"},"content":{"rendered":"

Er vi s\u00e5 begejstrede, at vi risikerer at beg\u00e5 pr\u00e6cis de samme fejl, som vi gjorde, da vi introducerede internettet og digitaliseringen i samfundet?<\/b><\/span>

<\/span>Nu er vi faktisk allerede for sent ude, men vi kunne jo stoppe op og tr\u00e6kke vejret … og v\u00e6re opm\u00e6rksomme … Mange af os har v\u00e6ret fascineret af mulighederne i AI, for nu kan vi alle v\u00e6re dygtigere … Da kunst ikke l\u00e6ngere n\u00f8dvendigvis handler om at v\u00e6re god til at male, designe eller komponere… og angribe et netv\u00e6rk, ikke l\u00e6ngere handler om at v\u00e6re god til pentesting eller kodning … Det handler om at v\u00e6re god til at prompte … Eller g\u00f8r det?
<\/b>
Frygten for overdreven afh\u00e6ngighed af AI-systemer, der kan f\u00f8re til tab af kreativitet, kritisk t\u00e6nkning og menneskelig intuition, er valid. I begejstringen for at bruge AI, hvor det er muligt, og skabe systemer, der bygger p\u00e5 moderne AI, herunder neurale netv\u00e6rksbaserede maskinl\u00e6ringsmodeller (ML) og generative AI-modeller, er det let at overse de svagheder og s\u00e5rbarheder, der g\u00f8r disse modeller modtagelige for fejl, vildledning, brud p\u00e5 fortrolighed, brud p\u00e5 privatlivets fred osv. Men der er ogs\u00e5 overvejelsen om at h\u00f8ste inficerede data og derved sprede d\u00e5rlig kode eller endda malware. N\u00e5r man programmerer og bruger AI, er dette en \u00e5benlys risiko at v\u00e6re opm\u00e6rksom p\u00e5.

Vi skal derfor v\u00e6re opm\u00e6rksomme p\u00e5, hvilke tr\u00e6ningsdata vi leverer til AI’en, da brugen af \u200b\u200b<\/span>AI, utilsigtet kan forst\u00e6<\/span>rke risici og ogs\u00e5<\/span> samfundsm\u00e6<\/span>ssige bias p\u00e5<\/span> grund af det tilg\u00e6<\/span>ngelige datagrundlag for AI h\u00f8st af data, men ogs\u00e5<\/span> algoritmisk design.<\/p>\n

Det er derfor afg\u00f8<\/span>rende at investere i udviklingen af \u200b\u200b<\/span>upartiske algoritmer og forskellige tr\u00e6<\/span>ningsdatas\u00e6<\/span>t. Hvis man indsamler “ukontrollerede” data, b\u00f8r man “vaske” eller “filtrere” dataene, f\u00f8r man bruger dem til AI. At g\u00f8re det som en eftertanke, er besv\u00e6rligt og dyrt, men det er, hvad mange har en tendens til at g\u00f8re i \u00f8jeblikket.<\/p>\n

Manglen p\u00e5 gennemsigtighed i AI-systemer, is\u00e6r i deep learning-modeller, der kan v\u00e6re komplekse og vanskelige at fortolke, kan tilsl\u00f8re beslutningsgrundlagene og den underliggende logik i disse teknologier. Det kan derfor v\u00e6re sv\u00e6rt at cybersikre og dertil ogs\u00e5 sikre overholdelse af lovgivningen, men det kan ogs\u00e5 resultere i frygt og f\u00f8re til mistillid og modstand mod at anvende disse teknologier, ligesom det kan f\u00f8re til mistillid til selve systemet eller organisationen der anvender AI.
Det vil i givet fald v\u00e6re en katastrofe for den offentlige sektor, da tillid og opbakning fra borgerne er bydende n\u00f8dvendigt.<\/p>\n

Husk privacy, moral og etik<\/b>
Jeg n\u00e6vner ofte privacy, etik og moral, men det er dybest set fordi, hvis gr\u00e6nserne brydes, brydes tilliden. Vi b\u00f8r altid v\u00e6re opm\u00e6rksomme p\u00e5 moralske og etiske v\u00e6rdier i AI-systemer, is\u00e6r i sammenh\u00e6ng med beslutningstagning med betydelige konsekvenser, da de udg\u00f8r en betydelig udfordring.<\/p>\n

Topledelse s\u00e5vel som forskere og udviklere, skal prioritere og fokusere p\u00e5 de etiske implikationer af AI-teknologier for at undg\u00e5 negative samfundsm\u00e6ssige konsekvenser. Derfor skal vi sikre, at EU-reglerne overholdes, ogs\u00e5 n\u00e5r vi samarbejder med tredjepartslande som USA….. OG – Hvis det p\u00e5 nogen m\u00e5de, selv for en borger, ikke kan lade sig g\u00f8re, skal vi l\u00e6ne os op ad europ\u00e6isk digital suver\u00e6nitet. Dette m\u00e5 aldrig diskuteres eller fors\u00f8ges manipuleret med.<\/p>\n


Forst\u00e6rkede trusler<\/b>
Indf\u00f8relsen af \u200b\u200b<\/span>AI, \u00f8<\/span>ger ogs\u00e5<\/span> sofistikeringen af \u200b\u200b<\/span>sikkerhedsrisici betydeligt, p\u00e5<\/span> grund af kriminelles \u00f8<\/span>konomiske styrke og brugen af \u200b\u200b<\/span>AI. Angreb er blevet lettere – ogs\u00e5 for nybegyndere. AI’s kraft til at udvikle mere avancerede cyberangreb, omg\u00e5 sikkerhedsforanstaltninger og udnytte s\u00e5rbarheder i systemer kan udnyttes af hackere, ondsindede akt\u00f8rer og endda amat\u00f8rer, der blot kan k\u00f8be angreb eller teknologier til angreb – som en tjeneste.
AI-drevet autonome v\u00e5ben rejser ogs\u00e5 bekymringer om farerne ved, at slyngelstater eller ikke-statslige akt\u00f8rer ogs\u00e5 bruger denne teknologi. Det potentielle tab af menneskelig kontrol i kritiske beslutningsprocesser kan v\u00e6re \u00f8del\u00e6ggende.<\/p>\n

At fremme decentraliseret og samarbejdsbaseret AI-udvikling er derfor n\u00f8glen til at undg\u00e5 magtkoncentration. Mange startups er dukket op p\u00e5 AI-arenaen – hvilket b\u00e5de kan betyde en risiko, hvis de ikke er professionelle nok, men p\u00e5 den anden side ogs\u00e5 er den n\u00f8dvendige faktor, s\u00e5 AI-udvikling ikke domineres af Big Tech-virksomheder og de st\u00f8rste regeringer, der kan forv\u00e6rre uligheden og begr\u00e6nse diversiteten i AI-applikationer.
Jeg bakker op om et internationalt samarbejde for at etablere globale normer og regler, der beskytter mod AI-sikkerhedstrusler.<\/p>\n

For at afb\u00f8de sikkerhedsrisici skal regeringer og organisationer udvikle\u00b4best praksis\u00b4for sikker AI-udvikling og -implementering.
Og for at undg\u00e5 koncentrationen af \u200b\u200b<\/span>AI-udvikling og -ejerskab ligger p\u00e5 for f\u00e5 h\u00e6nder af store virksomheder og regeringer, -skal vi s\u00f8<\/span>ge at etablere politikker og initiativer, der fremmer \u00f8<\/span>konomisk lighed – s\u00e5<\/span>som omskolingsprogrammer, sociale sikkerhedsnet og inkluderende AI-udvikling. P\u00e5 den m\u00e5de sikres en mere afbalanceret fordeling af muligheder og, vigtigst af alt, bidrages der til bek\u00e6mpning af \u00f8konomisk ulighed.<\/p>\n

Simuleret Phishing er ikke nok<\/b>
I det videre arbejde med AI, m\u00e5 vi erkende, at simuleret phishing og lejlighedsvis online tr\u00e6ning, slet ikke er nok til at skabe en robust og modstandsdygtig organisation. Vi skal have en mere antropologisk tilgang til hele virksomhedskulturen for at etablere en mere ansvarlig og motiverende organisation med st\u00f8ttende og kompetente medarbejdere, og vi skal genoverveje vores arbejdsrutiner og sikkerhed i infrastrukturen. Vi bliver ogs\u00e5 n\u00f8dt til at rejse diskussionen med forsyningsk\u00e6der om, om hvad de har gjort for at g\u00f8re det samme. Lad os arbejde med AI’s vidundere – men for at g\u00f8re det rigtigt – s\u00e5 lad os l\u00e6gge en plan …<\/p>\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Er vi s\u00e5 begejstrede, at vi risikerer at beg\u00e5 pr\u00e6cis de samme fejl, som vi gjorde, da vi introducerede internettet og digitaliseringen i samfundet? Nu…<\/p>\n","protected":false},"author":5,"featured_media":2196,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_kadence_starter_templates_imported_post":false,"_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","footnotes":""},"categories":[10],"tags":[],"ppma_author":[17],"class_list":["post-2195","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-generelt"],"authors":[{"term_id":17,"user_id":5,"is_guest":0,"slug":"mette-nikander","display_name":"Mette Nikander","avatar_url":{"url":"https:\/\/bedrecybersikkerhed.dk\/wp-content\/uploads\/2025\/06\/Mette-fritskrabet-e1752964333913.webp","url2x":"https:\/\/bedrecybersikkerhed.dk\/wp-content\/uploads\/2025\/06\/Mette-fritskrabet-e1752964333913.webp"},"0":null,"1":"","2":"","3":"","4":"","5":"","6":"","7":"","8":""}],"_links":{"self":[{"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/posts\/2195","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/comments?post=2195"}],"version-history":[{"count":2,"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/posts\/2195\/revisions"}],"predecessor-version":[{"id":2198,"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/posts\/2195\/revisions\/2198"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/media\/2196"}],"wp:attachment":[{"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/media?parent=2195"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/categories?post=2195"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/tags?post=2195"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/bedrecybersikkerhed.dk\/index.php\/wp-json\/wp\/v2\/ppma_author?post=2195"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}