آیا آنتروپیک می‌تواند ایمنی را در اولویت قرار دهد؟

آنتروپیک - IPO - ایمنی هوش مصنوعی - Anthropic - AI Safety - Public Company تکینیو techinio

امروز با هایدن فیلد، خبرنگار ارشد هوش مصنوعی در The Verge، درباره IPO آنتروپیک در سومین و آخرین قسمت از سری مقالاتمان درباره هوش مصنوعی در زندگی واقعی صحبت می‌کنم.

آزمایشگاه هوش مصنوعی پشت کلاود، پنجشنبه گذشته در نزدک عمومی شد. اعداد بسیار بزرگ هستند، اما برای این گفتگو چندان مهم نیستند، به جز اینکه بگوییم آنتروپیک به یکی از ارزشمندترین شرکت‌های جهان تبدیل شده است.

داستان واقعی این است که حالا چه اتفاقی می‌افتد و آیا آنتروپیک می‌تواند به سرمایه‌گذاری در ایمنی هوش مصنوعی ادامه دهد در حالی که یک شرکت عمومی است و به سهامداران پاسخگوست. همچنین باید به رشد مداوم درآمد خود ادامه دهد تا بتواند هزینه‌های محاسباتی فزاینده‌اش را که در سال‌های آینده به حدود 900 میلیارد دلار می‌رسد، پرداخت کند.

تمامی این ایده‌ها در تضاد جالبی با یکدیگر قرار دارند و هایدن و من سعی کردیم تجزیه و تحلیل کنیم که چگونه ممکن است این وضعیت پیش برود در حالی که آنتروپیک فشارهای بازار عمومی را مدیریت می‌کند.

شما ما را خواهید دید که درباره ساختار منحصر به فرد حاکمیت شرکتی این شرکت صحبت می‌کنیم، چیزی که به ویژه در پی داستان‌های جاری جنسن هوانگ مرتبط است. همچنین به این موضوع می‌پردازیم که چرا OpenAI به نظر می‌رسد از اینکه آنتروپیک زودتر به بازار عمومی رفته، خوشحال است و چرا کل پیشنهاد آنتروپیک به مشتریان بزرگ به همان برند ایمنی مربوط می‌شود که اکنون با بخش سودمحور کسب و کارش در تضاد است.

قبل از اینکه شروع کنیم، لطفاً به کانال Decoder در یوتیوب مشترک شوید، جایی که هر دوشنبه و پنجشنبه قسمت‌های جدیدی منتشر می‌کنیم.

خوب: هایدن فیلد، خبرنگار ارشد هوش مصنوعی در The Verge، درباره IPO آنتروپیک و اقتصاد هوش مصنوعی مرزی. بیایید شروع کنیم.

این مصاحبه به طور مختصر برای طول و وضوح ویرایش شده است.

هایکن فیلد، خوش آمدید به Decoder.

متشکرم. خوشحالم که اینجا هستم.

من excited هستم که امروز با شما صحبت کنم زیرا این یک درام خالص نیست.

این برای یک بار یک اتفاق عادی است.

این بار نه بر اساس شخصیت‌ها و درام، بلکه درباره پول واقعی است.

[می‌خندد] خوب، در آن مقداری شخصیت وجود دارد زیرا ما قرار است درباره IPO آنتروپیک صحبت کنیم، که شخصیت‌های بزرگ زیادی در آن وجود دارد و نحوه ساختاردهی این شرکت برای مقابله با فشارهای طمع‌کارانه سرمایه‌داری، بسیار عجیب است. این نشان‌دهنده باورهای تعدادی از افراد عجیب است.

بله، کاملاً. واقعاً جالب بوده که دوباره به S-1 نگاه کنیم و ببینیم چه کسانی در چه کمیته‌ای بودند و کدام بنیان‌گذاران بیشترین کنترل را دارند و اینکه واقعاً چقدر کنترل دارند که بیشتر از آنچه به نظر می‌رسد، است.

بیایید از ابتدا شروع کنیم. شما و من در روز IPO صحبت می‌کنیم. آنتروپیک اولین آزمایشگاه خالص هوش مصنوعی است که عمومی شده است. آنها قیمت IPO را 83 دلار به ازای هر سهم تعیین کردند و به 111 دلار رسیدند. تا زمانی که مردم به این گفتگو گوش می‌دهند، چه کسی می‌داند که قیمت واقعاً چه خواهد بود، اما این یک پیروزی واقعی برای همه افرادی است که در آنتروپیک سرمایه‌گذاری کرده‌اند. تعدادی از شرکت‌های حقوقی صفحات اصلی خود را تغییر داده‌اند تا بگویند، "تبریک می‌گوییم، بچه‌ها!"

نظر شما در این باره چیست؟ آیا این فقط چیزی بود که باید اتفاق می‌افتاد یا نشانه‌ای است که حباب هوش مصنوعی قرار نیست بترکد؟ مردم چگونه باید به این موضوع فکر کنند؟

من فکر نمی‌کنم واقعاً اطلاعات جدیدی درباره اینکه آیا حباب هوش مصنوعی قرار است بترکد یا نه به ما بدهد، زیرا اینجا اوج هیاهوی هوش مصنوعی است. این اولین آزمایشگاه هوش مصنوعی است که عمومی شده است. این شرکت در حال شکستن رکوردها برای ماه‌ها بوده است. همه می‌گفتند، "احتمالاً قرار است از ماسک جلو بزند" و سپس این کار را انجام داد. من نمی‌توانم منتظر بمانم تا توییت‌های او را بعداً ببینم.

اما بخش جالب دیگر این است که من شنیده‌ام هزاران میلیونر جدید و صدها نفر از صد میلیونرها از این به وجود خواهند آمد، نه به ذکر میلیاردها. این یکی از آن چیزهاست که من فکر می‌کنم حباب هوش مصنوعی همچنان در حال بزرگ شدن است.

من حتی صبح امروز با برخی از کارمندان فناوری در چندین شرکت مختلف صحبت کردم و آنها همه می‌گفتند که درون شرکت‌هایشان، حباب در حال بزرگ شدن است و آنها مأموریت‌های بیشتری برای انجام هوش مصنوعی دارند، حتی اگر این باعث کاهش بهره‌وری آنها شود و کار را کمتر خوب کند.

بنابراین فکر می‌کنم در نهایت یک محاسبه خواهد بود، اما در حال حاضر ما در اوج هیاهوی هوش مصنوعی هستیم و آنتروپیک کار فوق‌العاده‌ای در بازاریابی کسب و کارش به عنوان هوش مصنوعی ایمن انجام می‌دهد. البته، آنها اکنون بیشتر از همیشه تحت فشار بیشتری در اطراف این اصطلاح بازاریابی قرار خواهند گرفت. بنابراین جالب خواهد بود که ببینیم نقطه تنش چگونه به کانون توجه می‌آید و ببینیم چگونه با این موضوع برخورد می‌کنند.

تصویری از کنفرانس Decoder
تصویری از کنفرانس Decoder

مشترکین Verge، فراموش نکنید که شما به دسترسی انحصاری به Decoder بدون تبلیغات در هر جایی که پادکست‌های خود را دریافت می‌کنید، دسترسی دارید. به اینجا بروید. مشترک نیستید؟ می‌توانید اینجا ثبت‌نام کنید.

من در کنفرانس Semafor اوایل این هفته بودم. من سام آلتمن و سارا فریر، CFO OpenAI را روی صحنه دیدم. آلتمن و گرگ بروکمن در کنفرانس DealBook این هفته بودند. من احساس می‌کنم آنها خوشحالند که آنتروپیک اول رفت تا ببینند در بازارها چه اتفاقی می‌افتد و چگونه شرکت‌ها پتانسیل درآمد رقبای بزرگ خود را ارزیابی می‌کنند تا بتوانند داستان IPO خود را بهتر بیان کنند.

آیا این حس را دارید که آنتروپیک یک بالن آزمایشی است؟ یا اینکه OpenAI فقط در حال بازنویسی این واقعیت است که اول نرفته است؟

بله، من فکر می‌کنم این کاملاً درست است. من شنیده‌ام که در یک زمان در سال گذشته، آلتمن واقعاً به دنبال این بود که آنتروپیک را در رفتن به بازار عمومی شکست دهد. این چیزی بود که او تمام وقت به آن فکر می‌کرد. اما سپس با تمام اخبار بد حول OpenAI در سال جاری، آنها با شکست‌های متوالی مواجه شدند. بسیاری از عموم مردم به ویژه بر روی نفرت از OpenAI تمرکز کرده‌اند.

بدیهی است که یک واکنش بزرگ به هوش مصنوعی وجود دارد و بسیاری از مردم از هوش مصنوعی متنفرند، اما به نظر می‌رسد OpenAI واقعاً بار زیادی از نفرت عمومی و رسوایی‌ها را در این سال متحمل شده است. و بنابراین آنها گفتند، "می‌دانید چه؟ بیایید یک قدم به عقب برداریم و بگذاریم آنتروپیک اول برود." و به نظر می‌رسد از این کار خوشحالند.

حالا که آنتروپیک اول رفته و این پیشینه تاریخی را تعیین کرده، OpenAI می‌تواند بر روی دنباله‌های آن سوار شود و بگوید، "بله، ما هم همین‌طور." من شک دارم که آنها بتوانند رکورد آنتروپیک را بشکنند. شاید این کار را انجام دهند، شاید نه. اما به هر حال، فکر می‌کنم آنها می‌دانند که اگر آنتروپیک اول نمی‌رفت، اوضاع می‌توانست برای آنها بسیار بدتر باشد، اگر این سال اتفاق می‌افتاد.

من نمی‌توانم از فکر کردن به آنتروپیک به عنوان یک شرکت عمومی با اصول تجاری ساده دست بکشم. شما یک توکن از آنها خریداری می‌کنید. آنها باید آن توکن را با هزینه‌ای کمتر از آنچه که شما برای آن پرداخت می‌کنید، تولید کنند. آنها همچنین می‌خواهند AGI بسازند. در جای دیگر، آنها یک مجموعه بزرگ دیگر از هزینه‌ها دارند.

فقط بر اساس آنچه که امروز درباره کسب و کار می‌دانیم، حالا که یک شرکت عمومی شده‌اند، آیا آنها از نظر ظاهری سودآور هستند؟ آیا آنها راه زیادی در پیش دارند تا استنتاج به قدری سودآور باشد که بتواند هزینه‌های آموزش تمام مدل‌های جدید را پرداخت کند؟ کسب و کار آنها واقعاً چگونه کار می‌کند؟

آنها راه زیادی در پیش دارند و به همین دلیل است که دیدن اینکه دقیقاً چه کار می‌کنند در راستای افزایش درآمد، که باید انجام دهند، بسیار جالب خواهد بود. من یک برآورد از استیو رتنر دیدم که می‌گوید آنتروپیک باید درآمد خود را در حدود 17 برابر در 10 سال آینده افزایش دهد تا بازدهی قابل مقایسه با برخی از رقبای خود در صنعت فناوری ارائه دهد.

اما حتی بدون آن عدد خاص، می‌توانید بگویید. یعنی وقتی یک شرکت عمومی می‌شود، سرمایه‌گذاران می‌خواهند بازدهی از سرمایه‌گذاری خود را ببینند. آنها می‌خواهند ببینند که سودها افزایش می‌یابند یا حداقل سودهایی وجود دارد. آنها همچنین می‌خواهند ببینند که حتی اگر سودها هنوز وجود نداشته باشند، می‌خواهند ببینند که شما درآمد زیادی دارید که می‌توانند در آینده نزدیک سود را ببینند. این چیزی است که آنتروپیک باید بیشتر از همیشه با آن روبرو شود.

من با تعدادی از کارشناسان حاکمیت شرکتی و استادان حقوق صحبت کردم و آنها همه می‌گفتند آنتروپیک، مانند OpenAI، ساختار شرکتی بسیار غیرمعمولی دارد که در واقع به سهامداران به شیوه‌ای که برخی از شرکت‌های عمومی هستند، پاسخگو نیستند. سهامداران هرگز نمی‌توانند مدیران را رأی‌گیری کنند. آنها قدرت زیادی برای تأثیرگذاری بر هیچ چیزی ندارند. این بنیان‌گذاران و این اعتماد ویژه هستند که قدرت را دارند.

اما به هر حال، آنها همه می‌گفتند که مهم نیست که آیا سهامداران واقعاً در رأی‌گیری نظری دارند یا نه. مهم این است که به هر حال آنتروپیک تحت فشار زیادی برای کسب درآمد و خرید محاسبات و جبران عقب‌ماندگی نسبت به OpenAI خواهد بود، بنابراین این یک محاسبه بزرگ برای آنها خواهد بود. احتمالاً ما خواهیم دید که بسیاری از چیزها کنار گذاشته می‌شوند، شاید حتی برخی از تلاش‌های ایمنی پرهزینه.

می‌خواهم به زاویه ساختار حاکمیت بیایم. ما در زمانی از رسوایی‌های انویدیا زندگی می‌کنیم. حاکمیت شرکتی اکنون بسیار داغ است. این داغ‌ترین موضوع در کسب و کار آمریکایی است، اما بیایید در یک دقیقه به آن بپردازیم.

من فقط می‌خواهم روی "آیا می‌توانید یک توکن را یک دلار بیشتر از هزینه تولید آن بفروشید" برای یک دور دیگر بمانم. این ساده‌ترین راه برای فکر کردن به این موضوع است. آنتروپیک ظرفیت را از ارائه‌دهندگان بزرگ ابری، از هایپر اسکیلرها اجاره می‌کند. آنها GPUها را در آنها اجرا می‌کنند. آنها برای برق پرداخت می‌کنند، برای GPUها پرداخت می‌کنند. هزینه‌های ورودی وجود دارد و سپس آنها باید توکن را بیشتر از تمام این هزینه‌های ورودی بفروشند.

این ساده‌ترین راه برای فکر کردن به کسب و کار آنهاست. من به شما قول می‌دهم که آنها به این موضوع به روشی پیچیده‌تر فکر می‌کنند، اما اینگونه من به آن فکر می‌کنم. من هفته گذشته در کنفرانس Microsoft Ignite بودم و ساتیا نادلا به من و دیگران بسیار واضح گفت که آنها سعی خواهند کرد قیمت توکن‌ها را کاهش دهند، که کل سیستم آنها طراحی شده است تا تمام فروشندگان هوش مصنوعی را زیر Copilot قابل تعویض کند و بهترین مدل را برای کار انتخاب کند و اطمینان حاصل کند که شما ارزان‌ترین گزینه را برای هر چیزی که می‌خواهید انجام دهید، دریافت می‌کنید.

این به طور کامل در تضاد با آنچه آنتروپیک باید انجام دهد، یعنی کسب حاشیه بیشتر برای هر توکن فروخته شده است تا بتواند به اجاره ظرفیت از مراکز داده ادامه دهد یا چیپ‌های بیشتری از OpenAI بخرد یا هر چیزی که باید انجام دهد. آنها چگونه برای حل این مشکل ساختار یافته‌اند؟ آیا فقط استفاده بیشتر از هوش مصنوعی است یا توکن‌های گران‌تر؟

من فکر می‌کنم کمی از هر دو است و جالب است زیرا آنتروپیک به نوعی به آرامی سعی در انجام این کار داشته است. ما در سال گذشته مطلبی نوشتیم درباره اینکه یک اعتراض بزرگ، به ویژه بر روی آنتروپیک، برای انتقال هزینه‌ها به مصرف‌کنندگان وجود داشت. افرادی که مشتری آنتروپیک بودند واقعاً عصبانی بودند زیرا احساس می‌کردند قیمت‌ها برای همان چیز یا برای کیفیت بدتر افزایش یافته و هزینه‌ها به آنها منتقل شده است.

این یک موضوع بزرگ در صنعت شد، یک اعتراض بزرگ، اما آنتروپیک بار زیادی از آن را متحمل شد. آنتروپیک مجبور به صدور بیانیه عمومی شد. آنها گفتند، "ببینید، ما روی این کار خواهیم کرد." و آنها کمی آن را کاهش دادند، اما به معنای واقعی کلمه، آنها باید به نوعی به این کار ادامه دهند.

چیز دیگری که آنها بر روی آن تمرکز دارند این است که امیدوارند مدل‌هایشان به اندازه کافی خوب باشد که مردم فقط به آنها وابسته شوند - نه به صورت احساسی، خوب شاید - اما به آنها وابسته شوند و بتوانند آنها را در خود نگه دارند. آنها این روزها تماماً درباره "ساختن یک خندق" هستند: "ما باید یک خندق بسازیم." OpenAI نیز درباره این موضوع است. آنها می‌خواهند که بخش زیادی از زندگی روزمره و کسب و کار شما با ابزارهای آنتروپیک پیوند بخورد تا انتقال همه چیز به سمت دیگر بسیار دشوار باشد و شما نخواهید خواست که این کار را انجام دهید و فقط به پرداخت ادامه خواهید داد. بنابراین این چیزی است که آنها به دنبال آن هستند.

آنها همچنین، البته، امیدوارند که قراردادهای دولتی و شرکتی واقعاً بخشی از این را جبران کنند، در این صورت شما نیازی به نگرانی درباره جزئیات نخواهید داشت زیرا آنها پول زیادی دارند. اما فکر می‌کنم این بخش جالب اینجا است. وقتی به افرادی که واقعاً به قیمت اهمیت می‌دهند می‌رسد، آنها فقط سعی می‌کنند آنها را در خود نگه دارند و امیدوارند که بهترین نتیجه را بگیرند.

جالب است که مصرف‌کنندگان به نوعی به قیمت حساس هستند. من فکر می‌کنم مشتریان بزرگ آنتروپیک، که به طور تاریخی بر روی آن تمرکز کرده‌اند، به طرق مختلف به قیمت حساس هستند.

منبع: The Verge

اپل - هند - شکایت - تکنولوژی - GG Technologies - NameDrop - StayTouch - Apple قبلی را بخوانید

شکایت استارتاپی از اپل در هند به خاطر ویژگی به اشتراک‌گذاری تماس‌ها

FBI - هک - وزارت کشاورزی آمریکا - USDA - امنیت سایبری - ترامپ - National Crime Information Center - NCIC بعدی را بخوانید

هک شدن FBI و وزارت کشاورزی آمریکا: نگرانی‌ها و عواقب

مشتاق نظرات شمائیم