• Sibbo@sopuli.xyz
    link
    fedilink
    arrow-up
    11
    ·
    2 days ago

    „Doch aus der Perspektive der globalen Ressourcenallokation ist es eigentlich ziemlich schrecklich, dass jeder einen Teil des weltweit begrenzten DRAM-Angebots in seinem eigenen Rechner stecken hat – wo es dann nur 5 Prozent der Zeit tatsächlich genutzt wird.“

    Genau, am besten wir verteilen den Speicher um. Von unten nach oben. Dann wird alles besser!!1!

    Naja ernsthaft, recht hat er schon, wenn wir uns Ressourcen teilen dann wäre das besser für die Umwelt etc. Aber dann wären wir in der Informationsverarbeitung auch abhängiger von großen Firmen, und das ist bei so einem sensitiven Geschäftsfeld gar nicht mal so gut. Ich hoffe inständig, dass wir uns in Zukunft einfach alle lokal unsere KI laufen lassen dürfen. Von mir aus mit DRM, also dass die Grafikkarte verhindert, dass wir uns die Gewichte vom Modell auslesen, wenn wir uns für ein kommerzielles entscheiden. Aber bitte abgesehen davon unabhängig.

    • schnurrito@discuss.tchncs.deOP
      link
      fedilink
      arrow-up
      6
      ·
      2 days ago

      Ich frage mich, ob es nicht Möglichkeiten gäbe, das Beste aus beiden Welten zu haben, indem man es jedermann ermöglicht, Rechenleistung, die er gerade nicht braucht, anderen über das Internet bereitzustellen und damit Geld zu verdienen? Kann mich jetzt nicht erinnern, schon davon gehört zu haben, dass das irgendwo gemacht wird, eine Idee wäre es jedenfalls (ich zum Beispiel hab mehrere Rechner mit freien Rechenkapazitäten bei mir laufen).

        • Imke@feddit.org
          link
          fedilink
          arrow-up
          2
          ·
          2 days ago

          Ich heize damit im Winter mit meinen schrottrechnern mit boinc das Arbeitszimmer, wenn der Strommix gerade weniger CO2 die kWh erzeugt als das gas (Grenzwert ca 200g co2/kWh). Gerechnet mit boinc wird natürlich auch im sommer mit balkonkraftwerksüberschüssen, ist ja für die Wissenschaft. Lohnt leider trotz des dynamischen stromtarifs im winter finanziell nicht (wegen der Umlagen müsste der Strombörsenpreis auf ca. -10 cent fallen, um günstiger als die gasheizung zu sein, realistisch ist er häufig eher mal bei 0 oder -1 cent. Macht aber trotzdem Spaß und immerhin haben wir klimakrise und mein Vermieter mit zahlreichen wohnungen musste vorletztes Jahr uuuunbedingt noch schnell ein hOchEFfiZienltE gAsheiZuG einbauen

      • Radieschen@feddit.org
        link
        fedilink
        arrow-up
        6
        ·
        2 days ago

        Ich hab über sowas auch schon nachgedacht, vier allem in Kombination mit Solarstrom, der sonst vielleicht unbenutzt bleibt.

        Nur gehen deine Daten halt irgendwo hin, was nicht so nice ist.

    • Tartufo@lemmy.world
      link
      fedilink
      arrow-up
      7
      arrow-down
      1
      ·
      2 days ago

      Ich glaube es wäre sinnvoller Sam Altmans Vermögen (und das aller anderen Superreichen) auf alle aufzuteilen, als alle RAMs für irgend ein LLM zu opfern.