Pointer[183]: Haystack, Creare LLM Applications in Modo Facile - Con Stefano Fiorucci E Sara Zanzottera

PointerPodcast

🤖 Per concludere in grande stile il 2023, in questa puntata ci occupiamo delle LLM che sono state un argomento centrale della scena tech dell'anno che sta per terminare. Abbiamo invitato due esperti del settore, Sara Zanzottera e Stefano Fiorucci. 💬 Entrambi i nostri ospiti lavorano per Deepset come NLP Engineer. Deepset è l'azienda produttrice di Haystack uno dei framework opensource per LLM più noti, che ha da poco raggiunto la versione 2.0 beta. Proprio Haystack è stato uno degli argomenti di cui ci siamo occupati con i nostri ospiti, cercando di capirne le potenzialità. 👨‍💻 Ma è possibile riuscire a lavorare ad un framework di questo tipo rimanendo anche aggiornati sulle novità di un mondo in costante evoluzione? Questa è una delle tante domande a cui Sara e Stefano hanno risposto. Vi interessa il mondo delle LLM? Non perdetevi questa puntata!

• Unitevi al nostro gruppo Telegram per discutere della puntata

Note della puntata

• Haystack
• Haystack - GitHub
• Haystack - Discord
• Advent of Haystack

Progetti carini che usano Haystack: What would they have posted about this? Captionate

• Blogpost che guida nella scelta pratica di una tecnica di quantizzazione per far girare LLM con risorse limitate

• Zephyr: Direct Distillation of LM Alignment

• [Efficient Memory Management for Large Language Model Serving with PagedAttention][https://arxiv.org/abs/2309.06180]

• Stefano su Linkedin

• Sara su Linkedin

Supporta il PointerPodcast

• Pearls of Algorithm Engineering
• EMOTIV Insight 2.0 - Acquistalo su Amazon per supportare il PointerPodcast
• Quantum Information Science - Il libro di Riccardo e il codice sconto per acquistarlo ad un prezzo scontato: ASPROMP8.

I nostri contatti:

• Gruppo Telegram
• Canale Telegram
• Instagram
• Facebook
• Twitter
• Mail
• Twitch