Кризис управління OpenAI: роздуми та уроки з точки зору DAO
Нещодавно внутрішні проблеми OpenAI викликали широкий інтерес у галузі. Є думки, що якщо OpenAI використовуватиме форму децентралізованої автономної організації (DAO) для управління, це, можливо, допоможе уникнути цієї кризи. Цю точку зору варто глибше обговорити.
OpenAI, як неприбуткова організація, що прагне створити безпечний загальний штучний інтелект (AGI) і працювати на благо всього людства, має місію, подібну до багатьох DAO. Однак причина цієї кризи полягає не в самій організаційній структурі, а в її непрозорих і нерозумних правилах управління.
Наразі кількість членів правління OpenAI зменшилася з 9 до 6, що може призвести до надмірної концентрації прийняття рішень. Ще гірше, що такі важливі рішення, як зміна генерального директора Сема Альтмана, були прийняті без належного обговорення з усім правлінням і без врахування думок інших зацікавлених сторін. Такий підхід до прийняття рішень явно не має прозорості та інклюзивності.
У порівнянні, навіть для прибуткових публічних компаній необхідно залучати незалежних директорів для підвищення прозорості управління. Для OpenAI, важливої установи, що стосується майбутнього людства, покращення її механізму управління є особливо нагальним. Орієнтуючись на модель управління DAO, розробка більш надійної, прозорої та інклюзивної структури управління для OpenAI є справді варте розгляду рішення.
Варто зазначити, що DAO та AGI мають спільні риси у прагненні до автономії. DAO спочатку було задумано як самодостатня система, що повністю функціонує на основі коду, тоді як AGI визначається як високий автономний система, що перевищує людські можливості в більшості економічних сфер. Перед обличчям таких автономних систем, чи повинні ми більше покладатися на внутрішні людські цінності, чи посилити зовнішні обмеження? Це питання, яке потребує термінового розгляду в поточному процесі розвитку ШІ.
Останні новини кризи OpenAI показують, що до 90% співробітників висловили готовність піти у відставку та слідувати за Альтманом. Це явище відображає давнє обговорення у сфері DAO: що важливіше — правила, обумовлені кодом, чи колективна згода громади?
Хоча правила та обмеження можуть створити багато консенсусу, справжній великий консенсус часто виникає з спільного почуття місії та культурних цінностей. Ця глибока резонансність та узгодженість є основною рушійною силою, що просуває організацію вперед.
Ми вже опанували спосіб створення такої резонансу між людьми. Проте, для штучного інтелекту питання про те, як виховувати цю спільну думку та цінності, залишається важливою темою для дослідження.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
19 лайків
Нагородити
19
4
Поділіться
Прокоментувати
0/400
GhostChainLoyalist
· 07-23 21:25
Хто сказав, що DAO обов'язково буде працювати?
Переглянути оригіналвідповісти на0
SmartMoneyWallet
· 07-23 18:13
у блокчейні даних аналіз тільки скаже, куди пішли кошти
Уроки з кризи OpenAI: обговорення управління AI та цінностей з точки зору DAO
Кризис управління OpenAI: роздуми та уроки з точки зору DAO
Нещодавно внутрішні проблеми OpenAI викликали широкий інтерес у галузі. Є думки, що якщо OpenAI використовуватиме форму децентралізованої автономної організації (DAO) для управління, це, можливо, допоможе уникнути цієї кризи. Цю точку зору варто глибше обговорити.
OpenAI, як неприбуткова організація, що прагне створити безпечний загальний штучний інтелект (AGI) і працювати на благо всього людства, має місію, подібну до багатьох DAO. Однак причина цієї кризи полягає не в самій організаційній структурі, а в її непрозорих і нерозумних правилах управління.
Наразі кількість членів правління OpenAI зменшилася з 9 до 6, що може призвести до надмірної концентрації прийняття рішень. Ще гірше, що такі важливі рішення, як зміна генерального директора Сема Альтмана, були прийняті без належного обговорення з усім правлінням і без врахування думок інших зацікавлених сторін. Такий підхід до прийняття рішень явно не має прозорості та інклюзивності.
У порівнянні, навіть для прибуткових публічних компаній необхідно залучати незалежних директорів для підвищення прозорості управління. Для OpenAI, важливої установи, що стосується майбутнього людства, покращення її механізму управління є особливо нагальним. Орієнтуючись на модель управління DAO, розробка більш надійної, прозорої та інклюзивної структури управління для OpenAI є справді варте розгляду рішення.
Варто зазначити, що DAO та AGI мають спільні риси у прагненні до автономії. DAO спочатку було задумано як самодостатня система, що повністю функціонує на основі коду, тоді як AGI визначається як високий автономний система, що перевищує людські можливості в більшості економічних сфер. Перед обличчям таких автономних систем, чи повинні ми більше покладатися на внутрішні людські цінності, чи посилити зовнішні обмеження? Це питання, яке потребує термінового розгляду в поточному процесі розвитку ШІ.
Останні новини кризи OpenAI показують, що до 90% співробітників висловили готовність піти у відставку та слідувати за Альтманом. Це явище відображає давнє обговорення у сфері DAO: що важливіше — правила, обумовлені кодом, чи колективна згода громади?
Хоча правила та обмеження можуть створити багато консенсусу, справжній великий консенсус часто виникає з спільного почуття місії та культурних цінностей. Ця глибока резонансність та узгодженість є основною рушійною силою, що просуває організацію вперед.
Ми вже опанували спосіб створення такої резонансу між людьми. Проте, для штучного інтелекту питання про те, як виховувати цю спільну думку та цінності, залишається важливою темою для дослідження.