I år har artificiell intelligens blivit det som alla snackar om. Såväl nystartade företag i Silicon Valley som multinationella jätteföretag ser hur AI revolutionerar hela branscher. Men entusiasmen och framstegen har en baksida. Det finns företag som är så angelägna att komma med tåget att de överdriver sin användning av AI – trots att de i själva verket inte använder AI alls, eller väldigt lite. På engelska har fenomenet fått namnet AI washing, ett begrepp som anspelar på greenswashing, när något beskrivs som miljövänligt, även det inte är det.
Det är en tveksam marknadsföringsstrategi, men den kan hjälpa dem att skaffa finansiering framför andra nystartade företag utan AI-anspråk. Bara under 2022 drog nystartade AI-företag, enligt Global Data, in över 50 miljarder dollar i innovationskapital, och det väntas bli ännu mer under 2023 med tanke på hysterin runt Chat GPT och annat.
Men med tanke på alla pengar som satsas på dessa nystartade företag lär trenden med AI washing bara växa. USA:s Federal trade commission, FTC, (motsvarar närmast Konsumentverket och Konkurrensverket) är medvetet om faran och har uppmanat företagen att vara tydliga och ärliga när de marknadsför sin AI-kompetens.
”En del produkter med AI-anspråk kanske inte ens fungerar så som det står i annonserna till att börja med”, skriver juristen Michael Atleson från FTC:s avdelning för tillsyn av marknadsföring, i en blogg.
Det är ett komplext landskap, och det kan vara svårt att se skillnaden mellan verkliga AI-lösningar och marknadsföringssnack.
– Företagen bör ta alla påståenden från företag om deras AI-produkter med en rejäl dos skepsis, säger Beena Ammanath, chef för Deloitte Global AI Institute:
– Som alltid: om det låter för bra för att vara sant så är det troligen det.
Om it-chefer och deras företag inte kan välja rätt så kan konsekvenserna bli misslyckade eller försenade projekt, ekonomisk förlust, juridiska tvister, förlorat anseende och, för it-chefens del, sparken. Det säger Donald Welch, it-chef på New York University:
– Jag har sett vd:ar få sparken, och jag kan inte påstå att det var felaktiga beslut.
Som tur är finns det flera strategier för hur man undviker misstag.
AI-drivna företag måste ha kompetent personal
Att granska företag som påstår sig använda AI kan bli en långdragen process. Men det finns enkla lösningar, som att söka på Linkedin – det kan ge värdefulla insikter i ett företag som utlovar AI-lösningar.
– Kolla vilken nivå av AI-erfarenhet och utbildning som företagets anställda har, säger Beena Ammanath:
– Företag som utvecklar AI-lösningar bör ha kompetens för det. Det innebär att de bör ha datavetare och datautvecklare med lång erfarenhet av AI, maskininlärning, algoritmutveckling och annat.
Förutom att granska de anställda bör man som it-chef också söka efter belägg för samarbete med externa AI-experter och forskningsinstitut. Det kan vara samarbete med universitet, deltagande i branschkonferenser och event samt bidrag till AI-initiativ med öppen källkod.
Ett lovande tecken är när leverantören har erfarenhet av liknande projekt eller applikationer. Det visar att den kan leverera resultat.
– Kolla leverantörens historia noga, säger Vira Tkachenko, direktör för teknik och innovation på det nystartade ukrainsk-amerikanska företaget Macpaw:
– Om ett företag har AI-expertis har det med högsta sannolikhet en historia av forskningsartiklar inom det området, eller andra AI-produkter.
Kräv en genomtänkt datastrategi
Om ett företag verkligen har integrerat AI i sina produkter måste det också ha en genomtänkt datastrategi, för det är något som AI-algoritmer måste ha. De måste ha data av hög kvalitet att arbeta med. Och ju mer generöst tilltagen och relevant datamängden är, desto bättre blir resultaten.
– AI-system drivs av mycket stora datamängder, så de här företagen bör också ha en väl genomtänkt datastrategi och kunna förklara hur mycket data som samlas in och vilka källor de kommer från, säger Beena Ammanath.
En annan sak att titta på är ifall företagen verkligen anstränger sig att efterleva lagar och bestämmelser, om de har hög datasekretess och cybersäkerhet. Med tanke på bestämmelser som EU:s dataskyddsförordning (GDPR) och Kaliforniens Consumer privacy act (CCPA) måste varje organisation vara öppen om hur den hanterar data och ge enskilda makten över sina personuppgifter. Om detta inte är möjligt – se upp.
Kräv belägg för det som utlovas
Även om slagord kan vara lockande så hjälper det att artigt be om belägg:
– Att ställa rätt frågor och kräva belägg för påståenden om produkten är viktigt om man vill skala bort säljsnacket och avgöra ifall en produkt verkligen drivs av AI, säger Ammanath.
Om man vill utvärdera en produkt eller tjänst som sägs vara AI-baserad kan man fråga hur modellen har tränats, vilka algoritmer som har använts och hur AI-systemen reagerar på nya data.
– Du bör fråga säljaren vilka bibliotek eller AI-modeller som används, säger Vira Tkachenko:
– De kanske har satt ihop alltihop ovanpå ett enkelt api-anrop till Open AI.
Matthias Roeser, global chef för it på konsultföretaget Bearingpoint, instämmer. Han tillägger att komponenter och ramverk måste vara något som det säljande företaget är väl insatt i. En utvärdering bör omfatta ”etik, partiskhet, görbarhet, immateriell egendom och hållbarhet”.
Att ställa sådana frågor kan hjälpa it-chefer att få veta mer om vilka möjligheter och begränsningar en produkt har, och därmed avgöra om man bör köpa den eller inte.
Håll ögonen på startups
Nystartade företag framställer sig som innovationens framkant. Och även om många av dem flyttar gränserna för vad som är möjligt inom AI finns det andra som överdriver vad de kan för att få uppmärksamhet och pengar.
– Som tekniskchef på ett maskininlärningsföretag råkar jag ofta utför AI washing, särskilt bland nystartade företag, säger Vlad Pranskevičius, medgrundare av det nystartade ukrainsk-amerikanska företaget Claid.AI. Han har noterat att detta har blivit ett akut problem på senare tid, och att det är något som är särskilt allvarligt i hajpcykler som den vi går igenom just nu – AI ses som den nya guldruschen.
Pranskevičius tror emellertid att fenomenet kommer att hållas tillbaka inom kort efter att det kommit striktare lagar om AI.
Bygg upp ett gott techrykte
Det händer inte så sällan att ett företag skaffar tveksamma AI-lösningar, och i så fall behöver det inte alltid vara it-chefens fel. Det kan vara ”ett symptom på dåligt ledarskap i företaget”, säger Donald Welch:
– Företagsledningen faller för marknadsföringshajpen och kör över it-avdelningen, som sen får plocka upp bitarna.
För att slippa hamna i den sitsen bör organisationerna bygga upp en samarbetskultur där man sätter värde på it-proffsens åsikter och lyssnar noga på deras argument.
Samtidigt bör it-chefen och it-avdelningen skaffa sig ett gediget rykte i organisationen så att deras åsikter får genklang i beslutsfattandet. De bör kunna visa upp sakkunskap, professionalism och mjuk kompetens.
– Jag tycker inte att it-cheferna har svårt att genomskåda AI-svada, säger Max Kovtun, innovationsdirektör på Sigma Software Group:
– Ett större problem kan vara tryck från intressenter eller entreprenörer att använda AI, vilken sort som helst, för att de vill verka innovativa och vara i framkant. Så den verkliga frågan är hur man undgår att förmedla AI washing när företagsledningen trycker på.
Gå längre än till slagorden
När man jämför produkter och tjänster är det nödvändigt att utvärdera dem med en öppen attityd och granska deras egenskaper noga.
– Om den enda fördel som en produkt eller tjänst har för dig är AI så bör du tänka efter noga innan du skriver på, säger Vira Tkachenko:
– Det är bättre att granska kunderbjudandet och funktionerna och inte börja samtala förrän man har förstått fördelarna, förutom AI.
Donald Welch instämmer:
– Skulle jag köpa ett system för att de skrev det i C, C++ eller Java, frågar han:
– Jag vill kanske veta det som del av min granskningsplikt när det gäller hur länge de kommer att kunna underhålla koden, företagets framtidsutsikter och sådana saker.
Att göra en grundlig utvärdering kan hjälpa företag att avgöra ifall en produkt eller tjänst som den överväger att köpa in är i linje med företagets mål och har potential att leverera förväntade resultat.
– Ju mer komplex tekniken är, desto svårare är det för icke-specialister att förstå den så väl att de kan förvissa sig om att en tillämpning av tekniken är korrekt och verkar rimlig, säger Max Kovtun:
– Om du har bestämt dig för att använda AI-teknik i ditt företag gör du bäst i att anlita kunniga AI-specialister med erfarenhet. Annars kanske satsningen inte ger de fördelar som du hade räknat med.
Följ AI-relaterade nyheter
Att hänga med i nyhetsflödet om AI-produkter och relaterade frågeställningar är ett sätt att fatta välgrundade beslut. Man lär sig känna igen misstag som man annars kunde begå samtidigt som man lär sig om nya idéer och tekniker.
– Jag tror inte att det finns tillräckligt med utbildning ännu, säger Art Thompson, it-direktör för Detroits stad.
Han råder it-chefer att ägna sig åt tillräckligt mycket omvärldsbevakning för att undgå att lockas av ny eller experimentell teknik som lovar mer än den kan hålla. Om så ändå skulle ske så ”kan det tid som går åt för att återanskaffa och avinstallera en produkt verkligen hindra personalen från att ställa sig bakom förändringar av något slag”, säger han:
– För att inte tala om hur svårt det blir att få folk att lägga ner tid på att lära sig ny teknik.
Att vara insatt i det senaste inom AI-fältet kan dessutom hjälpa it-chefer att förutse nya och ändrade bestämmelser och framväxande branschstandarder. Det underlättar efterlevnad och konkurrenskraft.
Och det är inte bara chefen som behöver hålla sig up-to-date:
– Utbilda ditt team eller anställ experter för att lägga behövlig kompetens till din portfölj, säger Matthias Roeser från Bearingpoint.
Nya regler och bestämmelser om AI
Nya bestämmelser som är på gång kan göra det enklare för en it-chef att avgöra ifall en produkt eller tjänst verkligen använder AI-teknik. Nyligen släppte Vita huset en AI Bill of Rights med riktlinjer för ansvarsfull konstruktion av AI-system. Och inom EU pågår arbetet för fullt med att skapa en AI Act som ska reglera AI-användningen
– Grundtanken bakom dessa åtgärder är att slå vakt om konsumenternas rättigheter och skydda människor från potentiella hot från AI, säger Beena Ammanath:
– Vi behöver kunna förutse potentiella skadeverkningar av tekniken för att begränsa riskerna.
Etik ska inte kastas in efteråt
Företag har en benägenhet att påverka diskussionen om ny teknik. De belyser potentiella fördelar samtidigt som de ofta tonar ned potentiella följdverkningar.
– När en teknik blir ett slagord tenderar vi att sluta uppmärksamma de potentiellt skadliga inverkningar som den kan ha på samhället, säger Philip Di Salvo, postdoktorand på universitetet i St. Gallen i Schweiz:
– Det finns forskning som visar att det är företag som driver på samtalet om AI, och att teknik-deterministiska argument fortfarande överväger.
Denna tror att it är drivkraften bakom sociala och kulturella förändringar kan fördunkla diskussionerna om etiska och politiska följdverkningar till förmån för mer marknadsföringsorienterade argument. Som Di Salvo uttrycker det skapar detta ”ett slags argumentdimma som får dessa tekniker och deras producenter att framstå som ännu mer dunkla och omöjliga att ställa till svars.”
För att motverka detta, säger Di Salvo, blir det en viktig utmaning att förmedla till allmänheten vad AI faktiskt inte är, och vad det inte kan göra.
– De flesta AI-applikationer som vi ser i dag – bland annat Chat GPT – är i grunden byggda runt en tillämpning av statistik och dataanalys i stor skala, säger Di Salvo:
– Det kan se ut som en tråkig beskrivning, men det gör att vi kan undvika en missvisande framställning av vad ”intelligens” står för i definitionen av ”artificiell intelligens”. Vi behöver koncentrera oss på verkliga problem som snedvridning, social sortering och andra frågor – inte på hypotetiska, spekulativa långsiktiga scenarier.
Läs också:
Svenska cio:er bombarderas av AI-sälj – ”trodde inte det kunde bli mer men det kunde det”