Boefje of Visionair?
Als we toch kritisch kijken naar die schaarse grondstoffen: moeten we die eigenlijk wel in onze eigen pcâs hamsteren?
Misschien moeten we terug naar het idee van thin clients, waarbij we rekenkracht delen in datacenters in plaats van dure hardware te laten verstoffen.
Maar beginnen te praten in termen als visionair of boefje gaat niet veel bijdragen aan de discussie vrees ik.
doe deze dan :
Gelijkaardig aan de discussie over privébezit van een wagen (die 95% van de tijd niet rijdt) VS deelwagens.
Deelwagens klinken goed, maar je wilt als gebruiker gewoon naar je wagen kunnen stappen en kunnen vertrekken zonder gedoe. Cloudinfrastructuur is op dat vlak flexibeler dan deelwagens, maar de onvoorspelbaarheid van prijs en snelheid kan daar weer parten spelen.
Dat was geen statement he, gewoon een prikkelende vraag @TimSevenants
. Die man roept controverse op door zijn gedrag.
Het idee van rekenkracht lokaal delen met datacenters komt natuurlijk wel neer op het feit: van wie zijn die datacenters, waar wordt het voor gebruikt en wie verdiend er geld mee. Vooralsnog vertrouw ik iemand als Sam Altman mijn kostbare RAM reepjes niet
In verleden heb ik mijn PC nog wel eens uitgeleend aan initiatieven als Folding@home via Dutch Power Cows. Lijkt me ook een prima alternatief en dan hoeven we onze reepjes niet terug te geven aan bepaalde individuen met schaduw agendaâs
Mee eens, @ruurdsanders : âvan wie zijn die datacenters?â is dĂ© vraag. Alleen zou ik ze niet aan Sam Altman ophangen. âBoefje of visionairâ, als hij morgen vertrekt, blijft het probleem gewoon bestaan.
Die datacenters zullen er ook alleen maar meer komen. Dat draaien we niet meer terug, dat is een teken van de tijd.
De vraag is dus niet of ze er komen, maar wat we ermee doen.
Voor mij is de kernvraag: wie krijgt er toegang? Rekenkracht wordt stilaan een basisvoorziening. Als RAM en GPUâs zo duur worden dat alleen wie kan betalen nog mee kan, dan vind ik dat een groter probleem dan de vraag wie de reepjes bezit.
Thin clients kunnen volgens mij helpen, maar alleen als de toegang betaalbaar blijft en niet alles bij een paar bedrijven terechtkomt. Folding@home is een mooi voorbeeld van delen en heeft echt wetenschap opgeleverd, maar het is geen pasklare oplossing. Het werkt omdat dat reken / cpu / werk in kleine stukjes op te delen is, en dat ligt bij grote AI-modellen veel moeilijker (gpu =/ cpu). Bovendien betaalt de vrijwilliger zelf de stroom en heb je eerst een goede pc nodig, dus de minder bedeelden help je er niet automatisch mee.
Een sluitend antwoord heb ik niet. Hoe zou jij dit aanpakken, zodat rekenkracht ook bij de minder bedeelden terechtkomt?
Thin clients kunnen toch nooit dé oplossing zijn? Moet ik dan maandelijks betalen om mijn eigen desktop te gebruiken? Zo word je alleen nog afhankelijker van big tech en van hun bereikbaarheid.
Wat we nodig hebben, zijn meer chipproducenten. Idealiter is elk werelddeel zelfvoorzienend op het vlak van chipfabricage; pas dan zullen de prijzen echt dalen. Europa heeft voorlopig een voorsprong dankzij ASML, maar dat blijft niet duren. Binnen tien jaar hebben China en Amerika hun eigen ASML en meerdere Imec.
Daar heb je een punt, @Filip : thin clients zijn ook niet dé ultieme oplossing (ik denk ook maar wat hardop).
Als alles in de cloud zit, word je uiteraard afhankelijk van een abonnement, prijzen en verbinding (daar had Jeroen het ook even over).
Daarom zei ik ook dat het alleen werkt als de toegang betaalbaar blijft en niet alles bij een paar bedrijven terechtkomt.
Meer chipproducenten: absoluut! Maar ik denk niet dat âzelfvoorzienende werelddelenâ de prijzen doen dalen of bewegen.
In 2021 onderzochten BCG (Boston Consulting Group) en SIA (de Semiconductor Industry Association, de Amerikaanse sectorfederatie) wat er zou gebeuren als elke regio al haar chips volledig zelf zou maken. Hun raming: minstens 1.000 miljard dollar extra investeringen vooraf en 35 tot 65% duurdere chips als de fabrikanten die extra kosten doorrekenen.
Het lost ook het huidige probleem niet op. Een nieuwe fabriek heeft jaren nodig (beetje de kerncentrale / energie problematiek) . En bij RAM helpt ASML ons maar deels: de grote DRAM-makers komen uit Zuid-Korea, de VS en China. Europa levert de machines, maar niet het geheugen. We moeten echt ophouden met die ASML kaart te trekkenâŠ
Daarmee ik blijf erbij; we moeten af van het concept âhome computerâ - dat was vroeger zo - maar tijden veranderen. Onze verbindingen worden sneller en sneller - en misschien is die Altman niet zo heel crazy.
Ik denk dat âzelfvoorzienende werelddelenâ wel degelijk effect hebben op de prijs, niet dat het zorgt voor goedkopere prijzen maar het zorgt wel voor prijsstabiliteit omdat je zo niet langer de prijscontrole consolideert bij een land. Anders gaan landen deze producten zien als economisch wapen dmv exportrestricties op geopolitiek vlak.
Je haalt dit namelijk zelf ook aan met het feit dat wij constant de ASML kaart trekken om onze domintatie te tonen. Wij gebruiken bedrijven dus kennelijk ook om onze geopolitieke belangen te vertegenwoordigen.
De prijs zal vooral dalen als we terug een gezonde concurrentie hebben, het maakt niet direct uit in in welk land die zitten maar het maakt wel uit dat er concurrentie in vele verschillende landen zitten. Daar daalt de prijs door.
Ik denk wel dat het concept home computer gaat moeten blijven. Het idee was ook ooit om elektriciteit te centraliseren. Je hebt gewoon een aansluiting nodig en je zal altijd van stroom voorzien worden. Het nadeel is dat dit werkt voor korte termijn maar op lange termijn zullen de investeringen opdrogen en zal onderhoud uitgesteld worden tot het probleem zo ver vooruit geschoven is dat een oplossing vinden bijna niet meer te doen is. Het elektriciteitnet is evengoed verwaarloosd en nu is de oplossing om de energieproductie en opslag af te schuiven op de huishuidens zelf om het net te ontlasten.
Geschiedneis herhaalt zich altijd met een nieuw kleurtje. Als we computerkracht gaan centraliseren ben ik er van overtuigs dat we over 10-20 jaar een overheid krijgen die wilt dat we allemaal een eigen server in huis halen omdat de infrastructuur het niet langer aankan.
Ik denk dat gezien de huidige politieke spanningen het een beetje naĂŻef is om te denken dat centralisatie van AI computerkracht via cloud een duurzame oplossing is. Ook is het een vrij eenzijdige westerse gedachte om te denken dat internet een gegeven is. In grote delen van de wereld is dit namelijk niet zo.
Laten we daarnaast ook niet het veiligheidsaspect vergeten. Op dagdagelijkse basis worden cloud systemen gehackt en creëer je hiermee een ontzettende afhankelijkheid van een potentiële honeypot
Eigenlijk is de recente crypto scam van Binance daar wel een mooi voorbeeld van: in plaats van persoonlijke wallets lokaal op te slaan kiezen legio mensen voor een custodial wallet. Hiermee creëer je een potentiële single point of failure en een perfect doelwit voor hackers.
Trek je dit door naar AI: we gaan hier steeds afhankelijker van worden en straks kunnen we waarschijnlijk niet meer zonder. Misschien wordt het zelfs een nutsvoorziening zoals gas, water, licht en internet. Hoe makkelijk gaat het dan zijn voor een regime als Rusland om een meerdere landen te ontregelen door datacenters plat te leggen?
Hier kan local AI computing prima een weerwoord op zijn. Dit verlicht ook de geconcentreerde honger naar resources van datacenters die omwonenden ervaren door gebrek aan water en verhoging van elektra kosten https://stateimpactcenter.org/insights/data-centers-straining-the-grid-and-your-wallet
Is het minder efficiënt? Absoluut!
Maar in de wereld waar we nu leven geen onverstandige keuze.
Das waar, @ruurdsanders internet is geen gegeven feit voorbij iedereen. Een kwart van de wereld zit nog offline, in arme landen zelfs drie op de vier. Maar lokale AI is geen oplossing voor die mensen. Dat is zoals iemand zonder rijbewijs een dure auto aanraden: wie geen internet kan betalen, koopt ook geen pc met een zware GPUâŠ..
Lokale AI is voelt voor mij als alleen met de auto naar het werk rijden, het datacenter is de een lijnbus. Die bus verbruikt per passagier veel minder. Je wagen is wel van jou en vertrekt wanneer jij wil, maar het totale verbruik gaat er niet door omlaag.
Voor mij blijft eigenlijk elektriciteit de beste vergelijking (hebben we eens heel boeiende aflevering over gedaan. Wist je dat we vroeger per huishouden een generator lieten stampen in de kelder? Dat is zoân beetje onze home computer/pc van vandaag. Daarna kwamen de kern, wind, wayer centrales, en vandaag denkt niemand nog aan een eigen generator om de lichten aan te krijgenâŠ
En dat elektriciteitsnet is echt één grote machine (throwback naar die aflevering dus). Heel continentaal Europa draait (hopelijk) in de pas op 50 Hz, als één groot orkest. Valt er ergens een speler uit, dan spelen de anderen gewoon door. Dat missen we vandaag bij AI: veel versnippering
Daarom hoeft het voor mij ook geen of-of te zijn. Ik heb thuis ook niet Ăłf het net, Ăłf zonnepanelen. Je kan gerust allebei hebben. Hetzelfde bij AI: kleine dingen lokaal, zwaar werk gedeeld, en valt het net weg, dan blijven je batterij/zonnepanelen en het belangrijkste werk thuis gewoon draaien.
Rusland mag dan aan de stekker trekken, helemaal in het donker zit je niet.
Blijft de vraag: wie wordt de ânetbeheerderâ van dat AI-net? Bij stroom hebben we daar regels voor. Bij AI is het nu nog een beetje het Wilde Westen (en stiekem geniet ik van deze tijden).
Maar dat is toch precies waar we nu staan? We hebben en-en en daarmee voldoende buffer om de AI honger te spreiden over centrale en de-centrale oplossingen. Lijkt mij niks mis mee. Sterker nog ik denk dat AI computing at home nog helemaal niet volledig benut is. Hiermee zijn we zowel efficient bezig als een beetje bestand tegen politieke onrust (lees: oorlog).
In dat opzicht ben ik het wel eens met Sam dat deze hardware nog teveel stil staat. Dus⊠aan het werk maar dan juist lokaal! Power to the people ![]()
In dat wilde westen scenario wat jij schetst is m.i. Sam meer een boef(je) dan een sheriff ![]()
Mooi, dan zijn we eruit, @ruurdsanders en-en. Lokaal wat kan, gedeeld wat moet, en betaalbaar voor iedereen.
Merci voor de boeiende discussie iedereen. Hier heb ik echt iets aan bijgeleerd ![]()
Over Sam blijven we het oneens: jij zegt boefje, ik zeg dat we eerst een sheriff nodig hebben.
correctie: ik vind Sam meer een boefje dan een sheriff. Zo zie ik Dario meer als een sheriff als boefje
kunnen we het daar over eens zijn
?
Tweakers poste deze week nog een mooi stukje over local AIâs draaien trouwensâŠ
even dit juweeltje van @W3zz3 hier parkeren voordat ie verdrinkt in alle topics:
