Nu kommer Microsofts med ett antal konkreta förslag för att styra utvecklingen av AI och hålla ner riskerna. Förslagen presenterades av Microsofts vice ordförande Brad Smith på ett event i veckan, rapporterar Geekwire.
Han höll med Open AI-grundaren Sam Altman om att det behövs en ny federal myndighet i USA som ska styra användningen av kraftfulla modeller.
– Vi bör ha licensiering på plats så att myndigheten informeras om testerna innan en sådan modell lanseras, det finns krav som den måste uppfylla för säkerhetsprotokoll. Det måste göras mätningar, och i slutändan, som så mycket annat i livet … kommer AI att kräva en licens, säger Brad Smith.
– Vi bör ha licensiering på plats så att myndigheten informeras om testerna innan en sådan modell lanseras, det finns krav som den måste uppfylla för säkerhetsprotokoll. Det måste göras mätningar, och i slutändan, som så mycket annat i livet kommer AI att kräva en licens.
De fem viktigaste punkterna i Microsofts förslag till AI-styrning beskrivs också i ett blogginlägg.
Implementera och bygga vidare på nya myndighetsledda ramverk för AI-säkerhet baserade på det amerikanska NIST AI Risk Management Framework. Kräva effektiva ”säkerhetsbromsar” för AI-system som kontrollerar kritisk infrastruktur och säkerställer mänsklig tillsyn och ansvarsskyldighet. Utveckla ett brett juridiskt och regulatoriskt ramverk baserat på teknikarkitekturen för AI, inklusive nya regler och licenser för kraftfulla AI-grundmodeller och skyldigheter för AI-infrastrukturoperatörer. Främja transparens och säkerställa akademisk och ideell tillgång till AI-resurser, inklusive en årlig AI-transparensrapport och utökade datorresurser för forskning. Främja nya offentlig-privata partnerskap för att använda AI som ett effektivt verktyg för att hantera samhällsutmaningar som att skydda demokrati och rättigheter, skapa inkluderande tillväxt och främja hållbarhet.