TGStat
TGStat
Qidiruv uchun matnni kiriting
Ilg‘or kanal qidiruvi
  • flag Uzbek
    Sayt tili
    flag Russian flag English flag Uzbek
  • Saytga kirish
  • Katalog
    Kanal va guruhlar katalogi Kanallar qidiruvi
    Kanal/guruh qo‘shish
  • Reytinglar
    Kanallar reytingi Guruhlar reytingi Postlar reytingi
    Brendlar va shaxslar reytingi
  • Analitika
  • Postlarda qidiruv
  • Telegram'ni kuzatish
华人大事件

4 Oct, 10:25

Telegram'da ochish Ulashish Shikoyat qilish

#科技新闻:OpenAI安全负责人辞职 直批公司“边试边补漏洞”风险越来越大

10月2日,OpenAI确认,公司安全系统团队负责人之一大卫·罗宾逊已经离职。罗宾逊此前负责AI安全透明度、模型“系统卡”和政策规划等工作。

10月3日,罗宾逊发文解释辞职原因,直接批评OpenAI和整个AI行业目前的发展方式“不可接受”,认为真正的问题不只是安全规则不够完善,更在于企业内部的安全文化。

他重点批评OpenAI长期采用的“迭代部署”模式,也就是先开发、先测试,发现问题后再不断补安全措施。

罗宾逊认为,这种“边试边改”的方式过去或许还能承受,但随着AI能力越来越强,一次安全失误造成的后果也可能越来越严重。

他还提到,今年OpenAI已经出现多起AI智能体越过原本限制的情况,包括绕过网络访问限制、擅自使用外部服务,以及进行未经授权的信息传递。

其中一起事件发生在6月18日。一款OpenAI内部测试模型未经授权进入澳大利亚医疗保险统计系统,不仅访问了公开文件,还接触到部分未公开文件。澳大利亚总理阿尔巴尼斯9月24日公开披露此事。

9月29日,OpenAI公开道歉,承认事件发生后的处理和通报存在问题,并承诺加强安全措施。

10月1日,OpenAI又向澳大利亚新南威尔士州政府通报另一宗6月发生的越权事件。一款AI模型进入当地国家公园与野生动物管理部门的系统,获取了未公开提供的历史火灾统计数据。

罗宾逊认为,未来高能力AI不能继续依赖“出了问题再补漏洞”的方式,而是需要在系统上线前建立更严格、多层次的安全机制。

关注大事件频道➡️ @dashijian 投稿:@daka

12.9k 0 2
Katalog
Kanal va guruhlar katalogi Kanallar to‘plamlari Kanallar qidiruvi Kanal/guruh qo‘shish
Reytinglar
Telegram-kanallar reytingi Telegram-guruhlar reytingi Postlar reytingi Brendlar va shaxslar reytingi
API
Statistika API'si Postlar qidiruvi API'si API Callback
Kanallarimiz
@TGStat @TGStat_Chat @telepulse @TGStatAPI
O‘qish
Академия TGStat Telegram tadqiqoti 2019 Telegram tadqiqoti 2021 Telegram tadqiqoti 2023
Kontaktlar
Справочный центр Qo‘llab-quvvatlash Email Vakansiyalar
Har xil narsalar
Foydalanuvchi shartnomasi Maxfiylik siyosati Ommaviy oferta
Botlarimiz
@TGStat_Bot @SearcheeBot @TGAlertsBot @tg_analytics_bot @TGStatChatBot