anderer Artikel zum gleichen Thema (für Leute, die Probleme haben, auf derstandard.at zuzugreifen): https://www.heise.de/news/Sam-Altman-Privat-genutztes-DRAM-ist-schrecklich-11507338.html
anderer Artikel zum gleichen Thema (für Leute, die Probleme haben, auf derstandard.at zuzugreifen): https://www.heise.de/news/Sam-Altman-Privat-genutztes-DRAM-ist-schrecklich-11507338.html
Genau, am besten wir verteilen den Speicher um. Von unten nach oben. Dann wird alles besser!!1!
Naja ernsthaft, recht hat er schon, wenn wir uns Ressourcen teilen dann wäre das besser für die Umwelt etc. Aber dann wären wir in der Informationsverarbeitung auch abhängiger von großen Firmen, und das ist bei so einem sensitiven Geschäftsfeld gar nicht mal so gut. Ich hoffe inständig, dass wir uns in Zukunft einfach alle lokal unsere KI laufen lassen dürfen. Von mir aus mit DRM, also dass die Grafikkarte verhindert, dass wir uns die Gewichte vom Modell auslesen, wenn wir uns für ein kommerzielles entscheiden. Aber bitte abgesehen davon unabhängig.
Ich frage mich, ob es nicht Möglichkeiten gäbe, das Beste aus beiden Welten zu haben, indem man es jedermann ermöglicht, Rechenleistung, die er gerade nicht braucht, anderen über das Internet bereitzustellen und damit Geld zu verdienen? Kann mich jetzt nicht erinnern, schon davon gehört zu haben, dass das irgendwo gemacht wird, eine Idee wäre es jedenfalls (ich zum Beispiel hab mehrere Rechner mit freien Rechenkapazitäten bei mir laufen).
Geld verdienen geht damit nicht, aber man kann Sachen für die Wissenschaft berechnen: https://boinc.berkeley.edu/
Ich heize damit im Winter mit meinen schrottrechnern mit boinc das Arbeitszimmer, wenn der Strommix gerade weniger CO2 die kWh erzeugt als das gas (Grenzwert ca 200g co2/kWh). Gerechnet mit boinc wird natürlich auch im sommer mit balkonkraftwerksüberschüssen, ist ja für die Wissenschaft. Lohnt leider trotz des dynamischen stromtarifs im winter finanziell nicht (wegen der Umlagen müsste der Strombörsenpreis auf ca. -10 cent fallen, um günstiger als die gasheizung zu sein, realistisch ist er häufig eher mal bei 0 oder -1 cent. Macht aber trotzdem Spaß und immerhin haben wir klimakrise und mein Vermieter mit zahlreichen wohnungen musste vorletztes Jahr uuuunbedingt noch schnell ein hOchEFfiZienltE gAsheiZuG einbauen
Ich hab über sowas auch schon nachgedacht, vier allem in Kombination mit Solarstrom, der sonst vielleicht unbenutzt bleibt.
Nur gehen deine Daten halt irgendwo hin, was nicht so nice ist.
Warum sollten dann deine Daten irgendwohin gehen ? Du würdest doch nur Rechenleistung zur Verfügung stellen und nicht deine Verzeichnisse.
Anders herum, die Daten landen halt da wo etwas berechnet werden soll.
Ah - jetzt verstehe ich was du meinst.
Ließe sich das eventuell mit Verschlüsselung lösen und/oder dadurch, dass die Daten so miteinander vermischt werden, dass dem Empfänger unbekannt ist, wie sie zusammenpassen könnten? Ich hab es mir selbst noch nicht durchüberlegt …
Ich glaube es wäre sinnvoller Sam Altmans Vermögen (und das aller anderen Superreichen) auf alle aufzuteilen, als alle RAMs für irgend ein LLM zu opfern.