دنیای مدلهای زبانی بزرگ (LLM) به سرعت در حال تحول است و ODSC East دروازه شما برای تسلط بر آن است. چه در حال ساخت اولین برنامه LLM خود باشید و چه در حال مقیاسبندی خطوط لوله پیچیده، جلسات تخصصی ما مملو از بینشها، ابزارها و کاربردهای واقعی است که برای تبدیل شدن به یک مهندس LLM واقعی به آن نیاز دارید.
این گفتگوهای پیشرفته را کاوش کنید تا مهارت های خود را در LLMOps، تنظیم دقیق، RAG، مهندسی پرامپت، اشکال زدایی و موارد دیگر تقویت کنید.
ساخت ستون فقرات: LLMOps و MLOps مقیاس پذیر برای فعال کردن ادغام هوش مصنوعی در تیم ها
پابلو وگا-بهار، مدیر مهندسی یادگیری ماشین در Fitch Group
بیاموزید که چگونه گروه Fitch در حال تغییر ادغام هوش مصنوعی سازمانی با ستون فقرات LLMOps و MLOps مقیاس پذیر است که تیم های غیر متخصص را قادر می سازد تا به سرعت راه حل های هوش مصنوعی را مستقر کنند. این جلسه به رهبران ارشد طرحی برای ساختاربندی تیمها، اولویتبندی درخواستهای ادغام و فعالسازی حاکمیت برای اجرای سریع و مؤثر ارائه میدهد. کشف کنید که چگونه اجزای هوش مصنوعی قابل استفاده مجدد و عملیات ساده شده می توانند بدون بلند کردن سنگین فنی، تأثیر تجاری را ایجاد کنند.
ساخت و استقرار برنامه LLM: Jupyter به تولید در Streamlit و فراتر از آن
سودیپ شرستا، دکترا، رهبر علم داده و هوش مصنوعی در ASI Government
تجربه عملی ساخت و استقرار یک برنامه مبتنی بر LLM را به دست آورید - از نمونهسازی Jupyter Notebook تا استقرار کامل تولید با استفاده از Streamlit، FastAPI و Docker. این کارگاه شما را از طریق گردش کار توسعه دنیای واقعی با استفاده از مدلهای OpenAI یا Hugging Face، با تمرکز بر بهترین شیوهها برای عملکرد و مقیاسپذیری، راهنمایی میکند. ایده آل برای توسعه دهندگانی که به دنبال انتقال اولین برنامه LLM خود از مفهوم به راه اندازی هستند.
دستیابی به راه حل های هوش مصنوعی سازمانی قابل اعتماد و مسئولانه از طریق نظارت، ارزیابی و حاکمیت هماهنگ
دکتر هلن گو، بنیانگذار و مدیرعامل شرکت InsightFinder Inc.
با پیچیدهتر شدن سیستمهای هوش مصنوعی، ترکیب مدلهای ML، LLMها و ابزارهای منبع باز در «هوش مصنوعی ترکیبی»، تضمین قابلیت اطمینان از اهمیت بالایی برخوردار است. این گفتگو به چالشهای حفظ اعتماد، پاسخگویی و عملکرد در مقیاس میپردازد و استراتژیهای عملی نظارت و حکمرانی را ارائه میدهد. مطالعات موردی واقعی نشان میدهند که چگونه شرکتها میتوانند سیستمهای هوش مصنوعی مسئولانه و انعطافپذیر بسازند.
کلیدهای وب را به هوش مصنوعی خود بدهید
آریل شولمن، مدیر ارشد محصولات Bright Data
کشف کنید که چگونه LLMها را با دسترسی به وب در زمان واقعی تقویت کنید و آنها را قادر سازید تا در سایت ها پیمایش کنند، محتوای پویا را استخراج کنند و وظایف پیچیده فراتر از داده های آموزشی استاتیک را انجام دهند. این جلسه ابزارها و تکنیکها - مانند مرورگرهای راه دور، موتورهای جستجو و خطوط لوله داده - را بررسی میکند که این امر را ممکن میسازد. شما با بینش های عملی و منابع منبع باز برای زنده کردن اتوماسیون هوشمند در وب زنده، ترک خواهید کرد.
اشکال زدایی و نظارت بر LLMها در تولید
ابی آریان، بنیانگذار Abide AI
نحوه نظارت و اشکال زدایی خطوط لوله LLM را برای عملکرد، قابلیت اطمینان و اعتماد در مقیاس بیاموزید. این جلسه ملزومات قابلیت مشاهده مانند رانش داده، تشخیص توهم، ردیابی تأخیر و حلقه های بازخورد - به علاوه ابزارهایی مانند LangSmith، MLflow، Prometheus و Grafana را پوشش می دهد. ایده آل برای مهندسان ML/AI که هدفشان ساخت سیستمهای LLM قوی و درجه تولید در چتباتها، RAG و برنامههای سازمانی است.
طبقه بندی متن ترکیبی: برچسب گذاری با LLMها و شبکه های عصبی متراکم
محمد سلطانیه ها، دکترا، استادیار بالینی در دانشگاه بوستون
با ترکیب LLM های ممتاز با ابزارهای منبع باز، هزینه برچسب گذاری متن را بدون فدا کردن کیفیت کاهش دهید. این کارگاه عملی شما را از طریق برچسبگذاری به کمک LLM، تولید جاسازی برداری با Sentence Transformers و آموزش شبکه عصبی برای طبقهبندی کارآمد متن راهنمایی میکند. ایده آل برای پزشکانی که به دنبال گردش کار مقیاس پذیر و مقرون به صرفه با استفاده از OpenAI، Google Colab و Keras هستند.
صعود به تپه: بهترین روش ها برای ارزیابی برنامه های LLM
راجیو شاه، دکترا، مهندس یادگیری ماشین در Contextual AI
با یک راهنمای عملی برای تکنیکهای ارزیابی که فراتر از معیارهای استاندارد است، نتایج بهتری را از برنامههای LLM خود باز کنید. این جلسه استراتژیهای مدل بهعنوان قاضی، ادغام بازخورد انسانی و تست واحد برای بهبود مکرر را پوشش میدهد. شرکتکنندگان با یک نقشه راه، نوتبوکهای انتخابشده و روشهای اثباتشده برای ساخت خطوط لوله ارزیابی قوی، جلسه را ترک خواهند کرد.
فراتر از معیارها: ارزیابی عوامل هوش مصنوعی، سیستم های چندوجهی و هوش مصنوعی مولد در دنیای واقعی
سینان اوزدمیر، متخصص هوش مصنوعی و LLM | نویسنده | بنیانگذار + CTO LoopGenius
فراتر از معیارهای آکادمیک بروید و یاد بگیرید که چگونه سیستمهای هوش مصنوعی نسل بعدی - عوامل مستقل، مدلهای چندوجهی و گردشهای RAG - را با دقت دنیای واقعی ارزیابی کنید. این جلسه معیارهای پیشرفته برای استفاده از ابزار، همکاری، دقت بازیابی و تشخیص توهم، به علاوه نظارت بر قابلیت اطمینان و عملکرد را پوشش میدهد. با استراتژیهای عملی برای ساخت چارچوبهای ارزیابی هوش مصنوعی مقیاسپذیر و قابل اعتماد برای برنامههای کاربردی آماده تولید، از اینجا دور شوید.
سیستم های RAG تطبیقی با نمودارهای دانش: ساخت برنامه های کاربردی هوش مصنوعی مبتنی بر یادگیری تقویتی
دیوید فون تنن، مهندس ارشد هوش مصنوعی/ML در DigitalOcean
با ترکیب نمودارهای دانش با یادگیری تقویتی برای برنامههای هوش مصنوعی هوشمندتر و پویاتر، نحوه ساخت سیستمهای RAG خودبهبود را بیاموزید. این کارگاه عملی شما را از طریق ساخت خطوط لوله بازیابی تطبیقی، پیاده سازی حلقه های بازخورد و آموزش مجدد مدل ها با استفاده از پایگاه های داده گراف منبع باز راهنمایی می کند. ایده آل برای توسعه دهندگان هوش مصنوعی و دانشمندان داده که هدفشان ایجاد راه حل های LLM با کارایی بالا و پاسخگو است که با گذشت زمان تکامل می یابند.
شروع به کار با برنامه های کاربردی چندعاملی
والنتینا آلتو، معمار فنی، هوش مصنوعی و برنامه در مایکروسافت
به دنیای سیستمهای چندعاملی هوش مصنوعی شیرجه بزنید و یاد بگیرید که چگونه عوامل خودمختار میتوانند برای حل مشکلات پیچیده با هم همکاری کنند. این جلسه تحول عوامل هوش مصنوعی، طراحی سیستم های چندعاملی و ارکستراسیون دنیای واقعی را با استفاده از چارچوب های پیشرو پوشش می دهد. شرکت کنندگان برنامه چندعاملی خود را می سازند و با مهارت های عملی برای ایجاد راه حل های مقیاس پذیر و هوشمند مبتنی بر عامل، جلسه را ترک می کنند.
نمودارهای دانش حل شده با موجودیت: ارتقای تولید افزوده بازیابی خود به سطح بعدی
دکتر کلر سالیوان، بنیانگذار و مدیرعامل شرکت Clair Sullivan & Associates, LLC
با پرداختن به یکی از بزرگترین مشکلات RAG - تکراری بودن موجودیت در نمودارهای دانش، برنامه های LLM خود را ارتقا دهید. این گفتگو نمودارهای دانش حل شده با موجودیت (ERKGs) را معرفی می کند و نشان می دهد که چگونه تکنیک های پیشرفته حل موجودیت می توانند به طور چشمگیری هم علم داده گراف و هم دقت LLM را افزایش دهند. شرکت کنندگان نمونه های دنیای واقعی را بررسی می کنند و استراتژی های عملی را برای پیاده سازی ERKGها برای تقویت سیستم های هوش مصنوعی با عملکرد بالا و قابل اعتماد به دست می آورند.
ساخت برنامه های کاربردی عاملی دنیای واقعی با LlamaIndex
لوری واس، معاون روابط توسعهدهندگان در LlamaIndex
مرز جدید هوش مصنوعی عاملی را با LlamaIndex کاوش کنید و یاد بگیرید که چگونه از تعاملات اولیه LLM به برنامه های کاربردی کاملاً مستقل و مبتنی بر هدف حرکت کنید. این جلسه الگوهای اصلی طراحی عامل - مانند زنجیره ای، مسیریابی و ارکستراسیون - را بررسی می کند و نشان می دهد که چگونه آنها را در سیستم های چندعاملی قدرتمند ترکیب کنید. شما آماده خواهید بود تا عوامل بلادرنگ و RAG را بسازید که ورودی ساختاریافته را می گیرند و به طور مستقل عمل می کنند، بدون نیاز به رابط چت.
GraphRAG پیشرفته: متن، تصاویر و صدا برای هوش چندوجهی
امی هادلر، مدیر اجرایی GraphGeeks.org
دیوید هیوز، معمار اصلی راه حل داده و هوش مصنوعی در Enterprise Knowledge
با Multimodal GraphRAG، یک چارچوب پیشگامانه که متن، تصاویر و صدا را در سیستم های بازیابی مبتنی بر گراف برای هوش انجمنی غنی تر و شبیه تر به انسان ترکیب می کند، وارد آینده GenAI شوید. این جلسه ابزارهای پیشرفته ای مانند CLIP، LLaVA و BAML را برای ساخت گردش کار معرفی می کند که زمینه عمیق تری را باز می کند و قابلیت توضیح دهی را از داده های چندوجهی درهم و برهم باز می کند. چه برای نمایش های عملی Jupyter در اینجا باشید و چه فقط برای انداختن چند اصطلاح رایج در جلسه بعدی خود، آماده خواهید بود تا در مورد آنچه RAG می تواند باشد تجدید نظر کنید.
بن به یک دوست نیاز دارد: ساخت یک دستیار مبتنی بر LLM سفارشی
بنجامین باتورسکی، دانشمند ارشد داده در GoGuardian
چه کسی به تعامل انسانی نیاز دارد وقتی می توانید بهترین دوست هوش مصنوعی خود را بسازید؟ این آموزش طنزآمیز اما از نظر فنی غنی، شما را در ایجاد یک دوست هوش مصنوعی شخصی با استفاده از LLM های وزن باز، تنظیم دقیق، RAG و ادغام ابزار راهنمایی می کند. در این راه، مهارت های دنیای واقعی را در توسعه LLM به دست خواهید آورد - و شاید حتی یک همراه (دیجیتال) جدید که هرگز در برنامه ها تقلب نمی کند.
تغییر 2025 به مدل های کوچکتر: چرا هوش مصنوعی تخصصی برنده خواهد شد
ایوان لی، مدیرعامل Datasaur
با سرد شدن هیاهوی پیرامون LLM های غول پیکر، آینده GenAI به سمت مدل های کوچکتر و با تنظیم دقیق تر که برای موارد استفاده خاص طراحی شده اند، تغییر می کند. این جلسه بررسی می کند که چرا SLM های تخصصی به نیروی غالب در هوش مصنوعی سازمانی تبدیل می شوند و استراتژی های عملی برای ساخت برنامه های کارآمد و هدفمند ارائه می دهند. شرکت کنندگان دیدگاهی آینده نگر از روندهای استقرار GenAI و نحوه پیشرفت را به دست خواهند آورد.
کتاب بازی ارزیابی LLM & RAG برای برنامه های تولیدی
پل ایوستین، مهندس ارشد هوش مصنوعی و بنیانگذار Decoding ML
ساخت نمونه اولیه یک برنامه LLM آسان است - تولید درجه کردن آن چالش واقعی است. این کارگاه عملی به شما می آموزد که چگونه سیستم های RAG عاملی را با استفاده از LangGraph، ابزارهای مدیریت سریع مانند Opik و تکنیک های LLM به عنوان قاضی برای تشخیص توهمات، اندازه گیری عملکرد و راهنمایی بهبودها ارزیابی و نظارت کنید. بیاموزید که چگونه اعلانها را نسخهبندی کنید، جاسازیها را تجزیه و تحلیل کنید، معیارها را ردیابی کنید و از بازخورد کاربر برای انتقال از اثبات مفهوم به برنامههای GenAI قابل اعتماد و صیقلی استفاده کنید.
مقدمه ای بر آموزش پس از LLM
ماکسیم لابون، دکترا، رئیس آموزش پس از کار در Liquid AI
در ملزومات آموزش مدلهای زبانی بزرگ پس از آموزش، از تولید دادههای آموزشی با کیفیت بالا گرفته تا تنظیم دقیق و همسویی ترجیحات، غوطهور شوید. این گفتگو تکنیکهای کلیدی، چارچوبهای ارزیابی و روندهای نوظهور را که آینده توسعه LLM را شکل میدهند، پوشش میدهد. شرکتکنندگان بینشهای عملی در مورد ابزارها، گردشهای کاری و بهترین شیوهها برای افزایش عملکرد مدل در مقیاس به دست خواهند آورد.
بهینه سازی استنتاج LLM: سرعت بخشیدن به هوش مصنوعی برای برنامه های کاربردی دنیای واقعی
زین حسن، دکترا، مهندس ارشد هوش مصنوعی/ML DevRel در Together AI
بیاموزید که چگونه LLM های خود را با تکنیک های بهینه سازی استنتاج پیشرفته که تأخیر را بدون به خطر انداختن کیفیت کاهش می دهد، توربوشارژ کنید. این جلسه سریع همه چیز را از ذخیره سازی KV و تنگناهای توجه گرفته تا کوانتیزاسیون و رمزگشایی حدس و گمان پوشش می دهد - شما را با ابزارهایی برای ایجاد مدل های خود در تولید سریع تجهیز می کند. چه در حال بهینهسازی برای ابر یا لبه باشید، آماده خواهید بود تا هر میلیثانیه را از خط لوله هوش مصنوعی خود خارج کنید.
تئوری و عمل اساسی تنظیم دقیق LLMها با PPO و GRPO
ست وایدمن، مدیر ارشد محصول در SentiLink
با استفاده از اکوسیستم Hugging Face Transformers - مجموعههای داده، PEFT و TRL - در حالی که به تکنیکهای یادگیری تقویتی که به آنها قدرت میدهند، مانند PPO و GRPO، میپردازید، با تنظیم دقیق LLMها به صورت عملی کار کنید. این جلسه تئوری و عمل را ترکیب می کند تا به شما در بهبود قابلیت های استدلال چت بات کمک کند و درک کنید که چگونه RL در آموزش LLM اعمال می شود. همچنین نکات عملی برای اجرای کارآمد این آزمایشات در Google Colab را دریافت خواهید کرد.
درجه بندی درجه دهندگان: محک زدن یک قاضی LLM با استفاده از الگوهای درجه بندی انسانی
دیوید مک، دکترا، دانشمند ارشد داده در Humana
چگونه می توانید اثربخشی عوامل LLM را که پاسخ های متنی رایگان تولید می کنند اندازه گیری کنید - به خصوص زمانی که حتی انسان ها همیشه موافق نیستند؟ این گفتگو یافتههای یک مطالعه دنیای واقعی در Humana را به اشتراک میگذارد، که به تجزیه و تحلیل تغییرپذیری انسانی در رتبهبندی پاسخهای تولید شده توسط LLM و ارزیابی عملکرد یک قاضی LLM درجهبندی خودکار میپردازد. شرکتکنندگان در مورد ابهام بین ارزیابان، تکنیکهای بهینهسازی سریع و بهترین شیوهها برای ساخت چارچوبهای ارزیابی قابل اعتماد که هنوز انسانها را در حلقه نگه میدارند، یاد خواهند گرفت.
LLM هایی که فکر می کنند: رمزگشایی مدل های استدلال
سارا زانزوترا، توسعه دهنده ارشد در BNP Paribas
LLM های نسل بعدی مانند o1/o3 OpenAI و آخرین مدل های DeepSeek در حال تعریف مجدد انتظارات ما از استدلال هوش مصنوعی هستند - اما در واقع چه چیزی در زیر هود وجود دارد؟ این گفتگو رمزگشایی می کند که چگونه این مدل ها به عملکرد موفقیت آمیز در وظایف استدلال دست می یابند، موارد استفاده ایده آل آنها را بررسی می کند و آنها را با مدل های کلی تر مانند GPT-4o یا Llama مقایسه می کند. با درک روشن و شهودی از اینکه چه زمانی و چرا این موتورهای استدلال پیشرفته را مستقر کنید، دور شوید.
روش هایی برای حذف سیستماتیک توهمات از LLMها
دکتر شارون ژو، بنیانگذار و مدیرعامل Lamini
از توهمات در خروجی های LLM خود خسته شده اید؟ این کارگاه عملی تکنیکهای پیشرفتهای مانند Memory RAG و Memory Tuning را برای کاهش توهمها از طریق جاسازیهای هوشمندتر و تنظیم دقیق با Mixture of Memory Experts معرفی میکند. بیاموزید که چه زمانی از درخواست، RAG یا تنظیم دقیق استفاده کنید - و چگونه داده های بالغ و خطوط لوله ارزیابی را بسازید که به مینی عوامل تخصصی و قابل اعتماد برای سیستم های هوش مصنوعی بزرگتر قدرت می دهند.
ساخت مدل های جاسازی منبع باز پیشرفته
آندری مولار، بنیانگذار و مدیر ارشد فناوری Nomic AI
با بیش از 35 میلیون بارگیری، در پشت صحنه Nomic Embed، یکی از محبوب ترین خانواده های مدل جاسازی منبع باز در Hugging Face، بروید. این جلسه موفقیتهای یادگیری عمیق - مانند قابلیت تغییر اندازه Matryoshka، کوانتیزاسیون و آموزش MoE پراکنده - را که قابلیتهای چندزبانه و چندوجهی آن را تقویت میکنند، باز میکند. بیاموزید که چگونه Nomic چالش های دنیای واقعی را در مقیاس بندی سیستم های بازیابی و هدایت نوآوری از آزمایشگاه به تولید حل می کند.
تکنیک های پیشرفته برای تسلط بر RAG در امور مالی
هیمانی رالاپالی، دانشمند ارشد کاربردی در مایکروسافت
سیستمهای RAG سنتی در حوزههای پیچیدهای مانند امور مالی کوتاهی میکنند - این جلسه به شما نشان میدهد که چگونه این مشکل را برطرف کنید. تکنیکهای پیشرفتهای مانند RAG متنی، جستجوی ترکیبی، رتبهبندی مجدد، بازیابی مبتنی بر گراف و استدلال افزوده بازیابی را برای افزایش چشمگیر دقت و ارتباط بررسی کنید. با مثالهای دنیای واقعی، معیارهای ارزیابی و ابزارهایی مانند FAISS، Sentence Transformers و LlamaIndex، شما آماده خواهید بود تا خطوط لوله RAG مالی خود را تقویت کنید.
از 10 ترابایت تا پارامتر صفر: انقلاب LLM 2.0
وینسنت گرانویل، بنیانگذار و مدیر ارشد هوش مصنوعی BondingAI.io
کشف کنید که چگونه یک سیستم RAG/LLM قدرتمند و درجه سازمانی را از ابتدا بسازید - بدون GPU یا شبکههای عصبی عمیق. این جلسه بررسی میکند که چگونه با استفاده از تکنیکهایی مانند تکهبندی سلسله مراتبی، تنظیم دقیق در زمان واقعی و پارامترسازی شهودی، به دقت، سرعت و امنیت دست یابید در حالی که از توهمات جلوگیری میکنید. از طریق یک مطالعه موردی در مورد گزارشهای مالی NVIDIA، نحوه طراحی یک رابط کاربری پیشرفته، معماری باطن کارآمد و گردشهای کاری عامل قابل تنظیم برای برنامههای کاربردی سازمانی چندوجهی واقعاً مقیاسپذیر را نیز خواهید آموخت.
استفاده از LLM برای پرس و جو از داده ها
رامی کریسپین، مدیر ارشد - علم داده و مهندسی در اپل
بیاموزید که چگونه زبان طبیعی را با استفاده از LLMها به پرس و جوهای SQL تبدیل کنید - و به کاربران غیر فنی این امکان را می دهد تا به طور یکپارچه با پایگاه های داده تعامل داشته باشند. این کارگاه عملی شما را از طریق طراحی سیستم، مهندسی سریع و ساخت یک خط لوله پایتون کاربردی که SQL تولید شده توسط LLM را به پایگاه های داده واقعی متصل می کند، راهنمایی می کند. بر اساس مخزن منبع باز lang2sql، برای هر کسی که به دنبال پر کردن شکاف بین هوش مصنوعی مکالمه ای و دسترسی به داده های ساختاریافته است، عالی است.
معماری های RAG مدولار: ادغام LLMها، فروشگاه های داده و موتورهای سریع
ازکیل لانزا، مبلغ هوش مصنوعی منبع باز در اینتل
موریلو گوستینلی، مهندس ارشد راه حل های نرم افزاری هوش مصنوعی در اینتل
با پیچیده تر شدن چتباتهای مبتنی بر LLM، ساخت آنها با سازگاری و آمادگی سازمانی حیاتی می شود. این گفتگو یک چارچوب ارکستراسیون مبتنی بر میکروسرویس را برای تولید افزوده بازیابی (RAG) ارائه میکند و اجزای مدولار برای LLMها، فروشگاههای برداری و موتورهای سریع را به نمایش میگذارد. شرکتکنندگان با طرحهای معماری، استراتژیهای ارزیابی عملکرد و پایهای انعطافپذیر برای برنامههای کاربردی GenAI مقیاسپذیر و قابل اعتماد، جلسه را ترک خواهند کرد.
نتیجه گیری: مسیر شما به تسلط بر LLM از اینجا شروع می شود
ODSC East جایی است که مهندسان LLM ساخته می شوند. با بینش های محققان، مهندسان و پزشکان برتر هوش مصنوعی، این جلسات به شما کمک می کند تا لبه فنی خود را تیزتر کنید، سیستم های مقیاس پذیر بسازید و برنامه های کاربردی هوش مصنوعی تحول آفرین را زنده کنید.
فقط از LLM ها استفاده نکنید - آنها را مهندسی کنید. به ما در ODSC East بپیوندید و به متخصص LLM تبدیل شوید که تیم شما به آن نیاز دارد.