Om du nyligen har försökt köpa ny elektronik, från spelkonsoler till iPhone, har du stött på priser som ligger hundratals högre än för bara ett år sedan. Det beror på att RAM-priset fortsätter att stiga när AI-företag tävlar om att bygga ut datacenter för att möta de omättliga beräkningsbehoven hos avancerade LLM-modeller. Många människor tycker att det är dåligt att inte kunna köpa RAM till konsumentprodukter till ett rimligt pris. OpenAI:s Sam Altman håller inte med.
“Många vill ha lokal inferens,” sade chefen vars företag förväntas gå publikt någon gång nästa år i podden Cheeky Pint. “Och på något sätt antar de att problemet är löst nu eftersom vi kommer att få öppen källkodsmodeller, vi kommer att kunna köra dem på våra datorer, och så kommer vi inte längre behöva allt i datacentret.”
Det råder just nu en debatt inom AI-världen om framtiden kommer att innebära att människor kör “lättviktiga” open-source-modeller på lokala enheter som mobiltelefoner och bärbara datorer, eller om alla meningsfulla AI-modeller kommer att köras ur molnet, det vill säga i massiva datacenter som kontrolleras exklusivt av teknikjättarna. Altman tar tydligt ställning för datacentren, och därmed för företagen som i dagsläget köper upp allt tillgängligt minne och därmed får priserna att skjuta i höjden under år framöver i processen.
“Men ur ett globalt fördelningsperspektiv är det faktiskt ganska hemskt att alla har en stor del av världens begränsade DRAM-tillgång sittandes i sina egna datorer och används fem procent av tiden,” fortsatte Altman. “Du vill ha maximal nyttjande i molnet om du försöker hantera denna mycket begränsade tillgång. Och på något sätt är allas—många människors intuition—motsatsen till det.”
Dessa budskap om ”Allt ditt RAM tillhör oss” levererades mellan klunkar av en långsamt uppvärmd IPA (alla teknik-VD:ar tvingas nu diskutera världshändelser medan de klämmer öl i podcasts på ett något klumpigt sätt), men de kommer att få långtgående konsekvenser om de verkligen blir verklighet. Det är inte svårt att föreställa sig en framtid där allt hyrs ut, inte bara filmer och Google Kalkylblad utan även AI-modeller som dessa företag hoppas kommer att mikrostyra och i slutändan tjäna pengar på varje ledig stund av ditt liv.
Att kunna spela Grand Theft Auto 6 lokalt när det väl porteras till PC är enligt Altman ett slöseri. Strömma det från molnet mellan datacentren som bränner tokens för att skrapa webben och ersätta det med AI-genererade översikter istället. Ännu bättre, låt ChatGPT-agenterna buda mot andra agenter för hur mycket den lediga beräkningskraften är värd för dig att ta en nattlig bilfärd runt Vice City. Snälla applådera.
