Vi som förstår AI har ett ansvar

När ChatGPT och GPT-4 kom upptäckte världen ett nytt gränssnitt. Ett chattfönster. Man ställde en fråga och modellen svarade.

Ett tag trodde många av oss att det var programvarans framtid. Applikationer skulle lösas upp i samtal, och allt människor gör genom att klicka skulle bli något de helt enkelt bad om.

Det tror jag inte längre. Inte för att AI misslyckades, och inte för att språkmodellerna slutade bli bättre. Utan för att jag tror att vi tittade på fel del av systemet.

Nästa skifte kommer inte från smartare modeller. Det kommer från system som gör intelligensen pålitlig.

Språkmodeller är enastående och de kommer att fortsätta bli bättre. Snabbare, billigare, bredare, mer kapabla. Inget här hävdar motsatsen.

Men den som följt fältet nära har antagligen lagt märke till samma sak som jag. Avståndet mellan modellgenerationer krymper. Varje släpp är bättre än det förra. Ibland tydligt bättre. Sällan något kategoriskt annat. Det är en iakttagelse om de senaste släppen, inte ett påstående om tak — ingen utanför en handfull labb är i läge att göra det påståendet.

Samtidigt exploderar ekosystemet runt modellerna. Nya integrationer varje vecka. Ramverk för orkestrering, utvärderingsriggar, sökskikt, agentkörmiljöer, företagsplattformar och tusen tysta försök att få in en modell i programvara som redan finns och redan fungerar.

Det är dit accelerationen flyttade. Modellen är fortfarande motorn. Branschen har gått tillbaka till att bygga fordonet runt den.

Det finns en bekväm missuppfattning om att arbete med AI mest handlar om att skriva bra prompter. Det gör det inte, och den som byggt något på riktigt ovanpå en modell vet att det inte gör det.

För att få ut något användbart av en modell måste man förstå problemdomänen. Man måste känna igen kvalitet när man ser den. Man måste fånga exakt det ögonblick modellen har självsäkert fel, vilket också är ögonblicket den låter som mest övertygande. Beroende på uppgiften behöver man programvara, design, skrivande, juridik, ekonomi eller medicin ovanpå det.

Med andra ord: man behöver expertis. De flesta människor kommer aldrig att ha expertis inom de fälten, och det finns ingen anledning att de ska ha det.

Vi bad aldrig någon bli databasingenjör innan de öppnade ett kalkylblad. Vi bad aldrig någon förstå TCP/IP innan de använde internet. Ingen lär sig bränsleinsprutning för att köra till jobbet.

AI får inget undantag från den regeln.

Den första AI-revolutionen var tillgången till intelligensen själv. Modellen var produkten, och för första gången var den tillgänglig för vem som helst med en webbläsare.

Det förändrade världen, och det lämnade en sak precis som den var. Att prata med en modell kräver fortfarande mänskligt omdöme. Modellen producerar möjligheter. En människa avgör vilka av dem som är värda något.

Sedan kom agentisk AI. I stället för att be om enskilda svar började vi lämna över mål. Systemet planerar, utför, kontrollerar sitt eget arbete och kör vidare tills det bedömer sig färdigt.

För ingenjörer var det enormt. Programmerare blev dramatiskt mer produktiva. Forskare kom fram snabbare. Den som var teknisk nog att övervaka en loop lärde sig orkestrera arbetsflöden som förr var ett kvartals arbete.

Alla andra gick in i en annan vägg. Hur bedömer man ett svar när man inte är kvalificerad att bedöma svaret? Om en agent formulerar en avtalsklausul, hur vet man att den håller? Om den föreslår en diagnos, hur kontrollerar man den? Om den ritar en arkitektur, hur avgör man om den överlever produktion?

En agent kan producera tolv sidor övertygande text på en minut. Övertygande och korrekt är två olika egenskaper, och bara den ena syns för en icke-expert.

Advokaterna i det målet var inte dumma och modellen var inte trasig. Den producerade flytande, rimlig, korrekt formaterad rättspraxis. Felet var att ingen i kedjan kunde se skillnaden innan den nådde en domare.

Agenter ökade förmågan. De löste inte förtroendet.

Det är här skiftet sker nu. Plattformen blir produkten. Inte modellen, inte agenterna. Plattformen.

En plattform vet saker en modell strukturellt inte kan veta: er organisation, era användare, era arbetsflöden, era affärsregler, era integrationer, er säkerhetsmodell, era behörigheter, ert varumärke, er strategi och er definition av tillräckligt bra.

Språkmodellen blir en komponent bland många. Plattformen avgör när AI ska agera och när den ska sluta, när dess utdata måste valideras mot ett källsystem, när en annan tjänst tar vid, och när en människa måste godkänna innan något lämnar huset.

Den orkestreringen är där värdet börjar växa sig självförstärkande, och den är den enda delen ingen får gratis med nästa modellsläpp.

Här är skillnaden som avgör vilka av de här produkterna som finns kvar om fem år. Dagens AI-verktyg lovar intelligens. Morgondagens plattformar måste lova utfall. Det är inte samma löfte, och bara det ena går att pröva.

En marknadsplattform ska producera innehåll som stämmer med bolagets strategi, tonalitet, juridiska ramar och kampanjmål — varje gång, inte de dagar personen vid tangentbordet är bra på att prompta. En ingenjörsplattform ska producera kod som följer arkitekturen, konventionerna och driftsättningsreglerna i den organisation den tjänar. En ekonomiplattform ska arbeta innanför redovisningsprinciper och bolagspolicy av konstruktion, inte av påminnelse.

Användaren ska inte behöva bli promptingenjör. Expertisen hör hemma i plattformen: nedlagd en gång av dem som har den, tillämpad varje gång av ett system som inte blir trött, uttråkat eller slarvigt vid fyra på eftermiddagen.

En plattform är värd vad dess utfall är värda när de är förutsägbara. Kan den inte göra dem förutsägbara är den en demo med inloggningsruta.

Den självklara invändningen är att hela det här lagret är tillfälligt. Kontextfönstren växer, verktygsanvändningen blir bättre, och varje förmåga folk skruvar fast på en modell i år absorberas in i modellen nästa år. Sökning började som ställning och flyttade in i lådan. Funktionsanrop började som ställning och flyttade in i lådan. Varför skulle affärsregler, behörigheter och godkännanden vara annorlunda?

För att de inte är förmågor. De är åtaganden. En behörighetsmodell är ett beslut ert bolag fattade om vem som får se vad, och den håller bara därför att något utanför modellen vägrar returnera raden. Ett godkännandesteg finns därför att en namngiven person är ansvarig när det går fel. En modell tillräckligt bra för att imitera alltihop perfekt vore ändå fel ställe att förvara det på, av samma skäl som ni inte förvarar era redovisningsregler i huvudet på er skickligaste medarbetare.

Förmåga flyttar in i modellen. Ansvar gör det inte.

Branschen har gett enorma löften de senaste tre åren. Hela yrkeskårer var veckor från utplåning. Det hände uppenbarligen inte, och folk lade märke till det.

Skepsis är rätt svar på ett löfte som inte höll. Marknadsföring skapar förväntningar. Bara resultat skapar förtroende, och resultat måste upprepas innan någon räknar dem.

Inget av det är särskilt för AI. Ingen litar på livsmedelsförsörjningen för att någon publicerat imponerande statistik om den; de litar på den för att de handlar mat varje vecka och det fungerar. Ingen litar på elnätet för att ett bolag annonserar driftsäkerhet; de litar på det för att lamporna tänds. Båda systemen är mer komplicerade än någon AI-plattform, och båda anförtros av människor som inte kan beskriva hur de fungerar.

Riktmärken, instrumentpaneler och nyckeltal beskriver den sortens tillförlitlighet i bästa fall. De är inte saken själv. Det enda mått som överlever kontakt med en kund är om systemet fungerade igen i dag.

När civilisationen går framåt ökar abstraktionen. Väldigt få förstår halvledarlitografi, ändå är nästan alla beroende av datorer. Väldigt få förstår global logistik, ändå fylls hyllorna varje morgon. Väldigt få förstår modernt jordbruk, och miljarder människor äter ändå.

Om de systemen försvann i morgon skulle de flesta av oss inte plötsligt bli bönder, logistiker och kretskonstruktörer. Vi skulle helt enkelt sluta fungera.

Civilisationer går framåt för att specialister bygger system alla andra tryggt kan förlita sig på utan att förstå dem. Programvaran har redan gjort det mot sig själv flera gånger: assembler gav vika för kompilatorer, kompilatorer för operativsystem, rå lagring för databaser, pakethantering för webbläsaren, serverrader för molnet. Varje lager begravde komplexitet som förr var någons hela karriär.

AI ligger på samma bana. Målet var aldrig att alla skulle behärska den — målet är att de som gör det bygger saker alla andra kan förlita sig på utan att tänka på dem.

Den första generationens plattformar orkestrerar expertis. De samordnar modeller, validerar utdata, tillämpar affärsregler och upprätthåller kvalitet.

Sedan börjar något mer intressant hända. Plattformen samlar egen domänkunskap — undantagen, gränsfallen, besluten som fungerade och de som tyst inte gjorde det. Den slutar bara samordna specialister och blir en.

En ingenjörsplattform som skriver, granskar, testar, driftsätter och sedan lever med det den driftsatte. En marknadsplattform som planerar kampanjer, mäter dem och anpassar strategin efter vad den lärt sig i stället för efter vad någon antog i januari. En ekonomiplattform som bär planering och analys i stället för att assistera med dem.

Det här ska jag märka ut ärligt. De två första paradigmen går att observera i dag och det tredje byggs i öppen dager. Det fjärde är extrapolation — en välgrundad sådan, för varje beståndsdel finns redan var för sig, men extrapolation.

Plattformen slutar vara orkestrerare och blir utövare.

Bortom det ligger den verkligt intressanta möjligheten. Specialiserade plattformar börjar samarbeta. Teknik, ekonomi, medicin, juridik, tillverkning, forskning, var och en djupt expert i sin domän, och ovanför dem ännu ett orkestreringslager vars hela uppgift är att avgöra vilka av dem som ska dras in och i vilken ordning.

Skulle ett sådant system räknas som generell artificiell intelligens? Jag vet ärligt talat inte. Ingen vet. Vi har fortfarande ingen överenskommen definition av intelligens att pröva det mot, vilket är ett dåligt läge att utropa en passerad tröskel från.

Det jag kan se är en riktning. Varje stor teknisk revolution har lagt till ett lager av abstraktion, och varje lager har dolt mer komplexitet än det under sig samtidigt som det låtit vanliga människor uträtta mer med mindre förståelse.

Det finns lite som talar för att mönstret stannar här. Om det slutar i AGI är en filosofisk fråga. Om abstraktionen fortsätter är närmast en teknisk prognos.

Vi som förstår den här tekniken har ett ansvar, och det är inte att lära världen promptingenjörskonst. Det skalar inte och har aldrig gjort det. Det är inte heller att övertyga alla om att bli AI-experter, vilket varken är realistiskt eller nödvändigt.

Vårt ansvar är att bygga system som kapslar in expertis. System vanliga människor kan lita på för att de fortsätter ge värdefulla resultat, inte för att vi publicerat ett riktmärke eller en lanseringsfilm.

Vinnarna i den här epoken blir inte de som skriver de smartaste prompterna. Det blir de som bygger plattformar där prompting är irrelevant, där kvaliteten är konstruerad in i systemet, och där någon kan uträtta något de aldrig hade klarat ensam.

Det har alltid varit teknikens historia. Det här kapitlet blir inget undantag.