Buoyant veröffentlicht Kinference für vLLM auf Kubernetes
Kinference ergänzt vLLM auf Kubernetes um eine Steuerungsebene für Routing, Cache-bewusste Lastverteilung und Mandantenmetriken. In Buoyants eigenem Benchmark sank die mediane TTFT bei Anfragen mit gemeinsamem Präfix um 95 Prozent. Buoyant hat Kinference als Open-Source-Projekt unter der Apache-2.0-Lizenz veröffentlicht. Die Software richtet sich an Teams, die mehrere vLLM-Worker auf Kubernetes betreiben.
CheMeleon sagt Moleküleigenschaften mit wenigen Daten voraus
Das MIT-Modell CheMeleon soll helfen, Moleküle für neue Medikamente oder Materialien auszuwählen, wenn nur wenige Messdaten vorliegen. Dafür wird ein vortrainiertes Modell auf einzelne Eigenschaften angepasst. Die Suche nach Molekülen mit bestimmten Eigenschaften beruht oft auf aufwendigen Berechnungen und Experimenten. CheMeleon soll die Vorauswahl unterstützen: Nach Angaben des MIT kann der Ansatz bei wenig verfügbaren Daten andere bestehende Verfahren übertreffen.