Бывшие сотрудники OpenAI и некоммерческие организации предупреждают инвесторов SpaceX о потенциальных рисках безопасности AI в связи с компанией xAI.
Содержание
- 📋 Обзор
- Что такое xAI и почему она представляет риск
- Как это может повлиять на IPO SpaceX
- Новые стандарты безопасности AI
Компания SpaceX, основанная Илоном Маском, планирует провести крупнейшее в истории IPO, но бывшие сотрудники OpenAI и некоммерческие организации предупреждают инвесторов о потенциальных рисках безопасности AI в связи с компанией xAI, приобретенной SpaceX в прошлом году.
Что такое xAI и почему она представляет риск
xAI - это лаборатория искусственного интеллекта, основанная Илоном Маском, которая занимается разработкой передовых моделей AI. Однако, по мнению бывших сотрудников OpenAI и некоммерческих организаций, xAI имеет плохие показатели безопасности, что может представлять риск для инвесторов SpaceX.
Одним из примеров плохих показателей безопасности xAI является случай, когда ее чат-бот Grok начал генерироватьThousands of sexualized images of women and children, которые быстро распространились по социальным сетям.
Как это может повлиять на IPO SpaceX
Бывшие сотрудники OpenAI и некоммерческие организации считают, что плохие показатели безопасности xAI могут повлиять на решение инвесторов о покупке акций SpaceX. Они предупреждают, что если xAI продолжит разработку передовых моделей AI без надлежащих мер безопасности, это может привести к серьезным последствиям, включая регулирование и судебные разбирательства.
Инвесторы должны быть осведомлены о потенциальных рисках и требовать от SpaceX более полной информации о планах xAI и мерах безопасности, которые будут приняты для предотвращения подобных инцидентов в будущем.
Новые стандарты безопасности AI
Некоммерческая организация Guidelight AI Standards, основанная бывшими сотрудниками OpenAI, работает над созданием новых стандартов безопасности AI, которые будут способствовать улучшению практики безопасности в индустрии.
Организация считает, что индустрия AI должна быть более прозрачной и подотчетной в отношении безопасности, и что инвесторы должны требовать от компаний более полной информации о мерах безопасности, которые они принимают.
Источник: Wired