Dynamic Rank Allocation for Efficient LLM Inference on GPUs
Masterarbeit
Kerndaten
Kontakt
Prof. Dr.-Ing.
Li
Zhang
grace.zhang@tu-...
work +49 6151 16-20256
Work
S3|06 310 Merckstraße 25 64283 Darmstadt
Jingcun
Wang
jingcun.wang@tu-...
work +49 6151 16-20279
Wir möchten die Informationen und das Nutzungserlebnis auf dieser Webseite an Ihre Bedürfnisse anpassen.
Deswegen verwenden wir sog. Cookies. Sie können selbst entscheiden, welche Cookies genau bei Ihrem Besuch unserer Webseiten gesetzt werden sollen.
Einige Cookies sind für den Abruf der Website notwendig, damit diese auf Ihrem Endgerät richtig anzeigen werden kann.
Diese essentiellen Cookies können nicht abgewählt werden.
Der Komfort-Cookie speichert Ihre Spracheinstellung und bevorzugte Suchmaschine, während „Statistik“ die Auswertung durch die Open-Source-Statistik-Software „Matomo“ regelt.
Weitere Informationen zum Einsatz von Cookies erhalten Sie in unserer
Datenschutzerklärung.