Anthropologie OpenAI را با پردازش پرداخت مقرون به صرفه به چالش می کشد
انتشار: مهر 18، 1403
بروزرسانی: 29 اردیبهشت 1404

Anthropologie OpenAI را با پردازش پرداخت مقرون به صرفه به چالش می کشد


به خبرنامه های روزانه و هفتگی ما بپیوندید تا آ،ین به روزرس، ها و محتوای انحصاری را در زمینه پوشش هوش مصنوعی پیشرو در صنعت ما دریافت کنید. او بیشتر یاد می گیرد


Anthropic، یک شرکت پیشرو هوش مصنوعی، API دسته ای پیام جدید خود را روز سه شنبه راه اندازی کرد که به شرکت ها اجازه می دهد تا حجم زیادی از داده ها را با نصف هزینه تماس های API استاندارد پردازش کنند.

این پیشنهاد جدید تا 10000 پرس و جو را به صورت ناهمزمان در عرض 24 ساعت پردازش می کند، که نشان دهنده گام مهمی در جهت دسترسی بیشتر و مقرون به صرفه تر ، مدل های پیشرفته هوش مصنوعی برای سازمان هایی است که با داده های بزرگ سروکار دارند.

معرفی Message Batches API – روشی مقرون به صرفه برای پردازش مقادیر انبوه پرس و جوها به صورت ناهمزمان.

شما می تو،د تا 10000 درخواست را در یک زمان ارسال کنید. هر دسته ظرف 24 ساعت پردازش می شود و 50٪ کمتر از تماس های استاندارد API هزینه دارد. https://t.co/nkXG9NCPIs

– آنتروپیک (@AnthropicAI) 8 اکتبر 2024

صرفه جویی در مقیاس در هوش مصنوعی: پردازش دسته ای منجر به کاهش هزینه ها می شود

Batch API در مقایسه با پردازش بلادرنگ، 50 درصد تخفیف در کد ورودی و ،وجی ارائه می کند که آنتروپیک را در رقابت تهاجمی تری با سایر ارائه دهندگان هوش مصنوعی مانند OpenAI قرار می دهد، که اوایل امسال یک ویژگی پردازش دسته ای مشابه را معرفی کرد.

این حرکت نشان دهنده یک تغییر عمده در استراتژی قیمت گذاری برای صنعت هوش مصنوعی است. با ارائه پردازش دسته ای با تخفیف، Anthropic به طور موثر اقتصادی در مقیاس بزرگ برای مح،ات AI ایجاد می کند.

این امر می تواند منجر به افزایش قابل توجهی در پذیرش هوش مصنوعی در میان شرکت های متوسطی شود که قبلاً از برنامه های کاربردی هوش مصنوعی در مقیاس بزرگ صرف نظر می ،د.

پیامدهای این مدل قیمت گذاری فراتر از صرفه جویی در هزینه است. این می تواند اساساً نحوه رویکرد شرکت ها به تجزیه و تحلیل داده ها را تغییر دهد و به طور بالقوه منجر به تجزیه و تحلیل های مقیاس بزرگ تر، جامع تر و تکراری تر شود که قبلاً گران قیمت یا نیازمند منابع تلقی می شدند.

مدلهزینه ورودی (در هر میلیون توکن)هزینه ،وجی (به ازای هر میلیون توکن)پنجره زمینه
GPT-4o1.25 دلار5.00 دلار128 هزار
غزل کلود 3.51.50 دلار7.50 دلار200 هزار
مقایسه قیمت: GPT-4o در مقابل مدل های پریمیوم کلود. هزینه های نشان داده شده در هر میلیون توکن (ج، اعتباری: VentureBeat)

از زمان واقعی تا به موقع: بازنگری نیازهای پردازش هوش مصنوعی

Anthropic Batch API را برای مدل های Claude 3.5 Sonnet، Claude 3 Opus و Claude 3 Haiku از طریق API اختصاصی این شرکت در دسترس قرار داده است. انتظار می رود به زودی از Claude در Vertex AI گوگل ابر پشتیب، شود، در حالی که مشتری، که از Claude از طریق Amazon Bedrock استفاده می کنند می توانند از قبل به قابلیت های استنتاج دسته ای دسترسی داشته باشند.

معرفی قابلیت های پردازش دسته ای نشان دهنده درک کامل نیازهای هوش مصنوعی سازم، است. در حالی که پردازش بلادرنگ تمرکز بسیاری از توسعه هوش مصنوعی بوده است، بسیاری از برنامه های کاربردی تجاری به نتایج فوری نیاز ندارند. با ارائه یک گزینه کندتر اما مقرون به صرفه تر، Anthropic تشخیص می دهد که برای بسیاری از موارد استفاده، پردازش "در زمان" مهم تر از پردازش زمان واقعی است.

این تغییر می تواند منجر به رویکردی ظریف تر برای به کارگیری هوش مصنوعی در شرکت ها شود. ممکن است شرکت ها به جای پیش فرض سریع ترین (و اغلب گران ترین) گزینه، تعادل استراتژیک بین حجم کاری هوش مصنوعی خود را بین پردازش زمان واقعی و دسته ای ایجاد کنند و هزینه و سرعت را بهبود بخشند.

شمشیر ،به پردازش پرداخت

با وجود مزایای آشکار، حرکت به سمت پردازش دسته ای سؤالات مهمی را در مورد جهت آینده توسعه هوش مصنوعی ایجاد می کند. اگرچه مدل های موجود را در دسترس تر می کند، اما این خطر وجود دارد که منابع و توجه از توسعه قابلیت های هوش مصنوعی بلادرنگ منحرف شود.

معاوضه بین هزینه و سرعت در فناوری چیز جدیدی نیست، اما در هوش مصنوعی اهمیت بیشتری می یابد. از آنجایی که شرکت ها به هزینه های پردازش پرداخت کمتر عادت می کنند، ممکن است فشار کمتری در بازار برای بهبود کارایی و کاهش هزینه پردازش هوش مصنوعی در زمان واقعی وجود داشته باشد.

علاوه بر این، ماهیت ناهمزمان پردازش دسته ای می تواند نوآوری را در برنامه هایی که به پاسخ های هوش مصنوعی فوری متکی هستند، مانند تصمیم گیری بلادرنگ یا دستیارهای هوش مصنوعی تعاملی، محدود کند.

ایجاد تعادل من، بین توسعه قابلیت های پردازش دسته ای و بلادرنگ برای توسعه سالم ا،یستم هوش مصنوعی بسیار مهم است.

همانطور که صنعت هوش مصنوعی به تکامل خود ادامه می دهد، API دسته ای جدید Anthropic هم یک فرصت و هم یک چالش را نشان می دهد. فرصت های جدیدی را برای شرکت ها فراهم می کند تا از هوش مصنوعی در مقیاس استفاده کنند و به طور بالقوه دسترسی به قابلیت های پیشرفته هوش مصنوعی را افزایش دهند.

در عین حال، نیاز به یک رویکرد متفکرانه برای توسعه هوش مصنوعی را برجسته می کند که نه تنها صرفه جویی فوری در هزینه، بلکه نوآوری طول، مدت و موارد استفاده متنوع را در نظر می گیرد.

موفقیت این پیشنهاد جدید احتمالاً به این بستگی دارد که چگونه شرکت ها می توانند پردازش دسته ای را در جریان کار موجود خود ادغام کنند و چگونه به طور مؤثر بین هزینه، سرعت و قدرت مح،اتی در استراتژی های هوش مصنوعی خود تعادل برقرار کنند.

VB Daily

مطلع باشید! آ،ین اخبار را روزانه در صندوق ورودی خود دریافت کنید

با اشتراک، با شرایط خدمات VentureBeat موافقت می کنید.

با تشکر برای اشتراک. خبرنامه های بیشتر VB را اینجا ببینید.

خطایی رخ داد.


منبع: https://venturebeat.com/ai/anthropic-challenges-openai-with-affordable-batch-processing/