تحولات هوش مصنوعی و مدل‌های محلی LiteRT در اندروید

نویسنده: • انجمن: هوش مصنوعی • امتیاز: 10 • دیدگاه‌ها: 0

اجرای مستقیم مدل‌های هوش مصنوعی روی پردازنده‌های موبایل (On-Device AI) بدون نیاز به اینترنت، سرعت پاسخ‌گویی و حریم خصوصی کاربران را متحول کرده است. با استفاده از LiteRT و شتاب‌دهنده GPU می‌توان مدل‌های چندمیلیارد پارامتری را مستقیماً روی گوشی اجرا کرد.