Ist es in Bayern normal, dass zwei Frauen an der Schulter zusammen gewachsen sind, sechs Finger an einer Hand haben und trotzdem ein Bierglas nicht so festhalten können, dass es eigentlich runterfallen müsste?
this post was submitted on 01 Oct 2023
138 points (88.3% liked)
Frag Feddit
3705 readers
1 users here now
Wolltest du Der Leere™ schon immer einmal Fragen stellen? Tue dies hier.
founded 3 years ago
MODERATORS
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
Anderes Thema, kennt sich wer mit solchen Modellen aus? Wisst ihr wie viele Grafikkarten etc man bräuchte, und mit welchen FOSS modell man gut Bildgeneration in so einem Stil machen kann? Eventuell mit etwas weniger Fingern XD
4GB VRAM ist minimum, 10GB VRAM um es vernünftig benutzen zu können, sprich irgendwas um GTX1080/RX6600 sollte für den Anfang reichen, mehr ist aber immer besser. Bild Generierung dauert 10-60sec, je nach Auflösung und Erweiterungen.
Für den Einstieg ist Automatic1111 gut und einfach, gibt auch noch alternativen wie ComfyUI die graph/flowchat haben.
epiCRealism, Photon und CyberRealistic sind Modelle die alle realistische Ergebnisse bringen. Sowas hier kann man damit in 2min zusammenwürfeln.
Im non-FOSS Bereich ist BingChat auch einen Versuch Wert, da das gerade auf DALLE-3 geupgraded wurde, sprich sowas hier generiert das und das Sprachverständnis ist besser als StableDiffusion (siehe Frosch).
Sehr gute Antwort, ich möchte noch drei Dinge hinzufügen:
Mit 4GB VRAM kommt man nicht mehr sehr weit. Das absolute Minimum sind 8GB, wobei man selbst damit schon schnell an die Grenzen des Möglichen stößt. Ideal sind 12 oder noch besser 24 (ergo 4090 oder mehr).
Desweiteren gab es jüngst ein neues Stable Diffusion release (SD XL), was die Messlatte auch nochmal deutlich nach oben geschoben hat. In Vergleichen operiert SD XL qualitativ etwa auf der Höhe von Midjourney, einer kommerziellen Alternative, die bis dato als absoluter Goldstandard galt.
Ich empfehle unbedingt ComfyUI, da es wesentlich flexibler ist als Automatic1111 und durch den Node-basierten Ansatz vielleicht auch etwas intuitiver.
Ja doch schon. Darfst halt nicht A1111 benutzen das Ding leckt Speicher wie die Sau. Comfy kann auch SDXL mit Standardauflösung mit 4G.
Kaufen sollte man 4G-Karten heutzutage nicht aber ich werd' mir hier jetzt zum rumspielen keine neue kaufen zu den Pandemiepreisen.
Hab gerade mal A1111 auf einer 4GB RX480 getested, funktionieren tut es, muss aber mit
--no-halfgestartet werden und die Performance ist recht unbrauchbar, 6min für 512x512 ohne Extras, auf einer RX6700 braucht das 4sec.4G RX5500, 512x512 SD1.5 (und ComfyUI), warmgelaufen, sind bei mir 1.86it/s. 4 Sekunden wären da 7-8 Schritte sind schon reichlich grenzwertig aber 20 Schritte in 11 Sekunden laufen bei mir definitiv unter benutzbar.
Jop RX480 scheint kein fp16 zu haben. RX5500 ist im Prinzip in genau der gleichen Klasse aber schon Navi und hat fp16, das ist mal ne schlappe Verdoppelung der effektiven TFLOPs. VRAM-Speicherbedarf ist auch gleich halbiert, da kann das Modell dann auch komplett im VRAM bleiben und muss nicht zwischen den Schritten immer hin und her geschaufelt werden.
Was genau ist denn eine Standardauflösung bei dir? Also ich hab eine 2080 mit 8 Gigs und wenn ich das SD XL base model mit kleinem LoRA und Prompts nutze, komme ich nicht wesentlich über 1200x1200 Bildpunkte. Sobald dann sowas wie ControlNet dabei ist, sind eher 800x800 das Maximum.
Ich schließe daher daraus: wenn man sowas ernsthaft einsetzen möchte, wird man unter 12+ Gigs nicht weit kommen.
https://stablediffusionxl.com/sdxl-resolutions-and-aspect-ratios/
LoRAs sind kein Problem, die werden in's Modell reingerechnet bevor die Inferenz startet. ControlNet kommt drauf an das kann schon kritisch werden, wirst aber t2i-Adapter finden. Die werden auch vorher reingerechnet und sind daher auch schneller -- auch nicht so genau aber wer benutzt schon Controlnet mit hohem Gewicht.
Wenn VRAM gerade fragmentiert ist kann es sein dass du zwingend die tiled VAE decode node nutzen musst, mit sehr niedriger Auflösung.
Was bei mir mit SDXL im Moment nicht geht sind sehr hohe Auflösungen dazu fehlt noch ControlNet tile.
Da ist schon was dran denn mit 4G kann man definitiv nicht trainieren.
https://github.com/AUTOMATIC1111/stable-diffusion-webui
https://civitai.com/
Brauchst eigentlich nichts dolles an Hardware. Was hast du denn?
Gar nix! Also einen Laptop mit Ryzen mobile prozessor, ist das stärkste was ich hab
Die gute Nachricht ist dass du mit ner APU keine VRAM-Probleme haben solltest. Die schlechte ist dass die Dinger sowohl was Rechenpower als auch Speicherbandbreite angeht komplette Kartoffeln sind.
Solange ROCm läuft läuft auch pytorch und dann läuft sowohl A1111 als auch ComfyUI.
Sieht aus als ginge das: https://github.com/AUTOMATIC1111/stable-diffusion-webui/issues/6146