Nagy tech cégek összefogtak egy mesterséges intelligencia biztonsági csoportban a veszélyek csökkentése érdekében

A vezető technológiai cégek új partnerséget indítottak a mesterséges intelligencia biztonsága érdekében. A Frontier AI Safety Consortium ezen a héten alakult. Olyan nagy neveket tömörít, mint a Google, a Microsoft és az Apple. A csoport önkéntes szabályok kidolgozását tervezi a legmodernebb MI-eszközökre vonatkozóan. Ez a lépés a világ minden táján szigorodó szabályokkal párhuzamosan történik. A Reuters megjegyzi, hogy az erőfeszítések célja a szigorúbb hatósági ellenőrzések elhárítása.

A korai kockázatkezelésre összpontosít

A fő cél továbbra is a közös biztonsági szabályok meghatározása. Ezek a szabályok a legfontosabb MI-rendszereket, az úgynevezett határmodelleket célozzák meg. Az erőfeszítések a kockázatokat még a rendszerek nyilvánossá tétele előtt észlelik és csökkentik. A cégek összefognak a red teaming tesztekhez. Arra fogják ösztönözni a MI-modelleket, hogy ellenőrizzék a rossz eredményeket. Az eredmények erős gyakorlatokat fognak kialakítani az egész területen. Ez a csapatmunka szakít a titkok elrejtésének régi szokásaival a rivalizálásban. Megmutatja, hogy a cégek látják az erős MI által jelentett széles körű fenyegetéseket. Az Associated Press szerint néhány startup is csatlakozott.

A szabályokra és a felhasználói bizalomra gyakorolt ​​hatás

Ez az új csoport alakíthatja az új törvényekről szóló tárgyalásokat. Az Egyesült Államok és az EU vezetői most készítenek MI-törvényjavaslatokat. A csoport saját szabályai később irányíthatják ezeket a törvényeket. A felhasználók számára a terv nagyobb bizalmat épít a MI-eszközökbe. Sokan aggódnak a mesterséges intelligencia hibái és az igazságtalanság miatt. Egy közös biztonsági terv talán csillapíthatja az új mesterséges intelligencia által előállított termékekkel kapcsolatos félelmeket. A csoport jövője azon múlik, hogy a tagok betartják-e a szabályokat. Mivel nem igazán erősek, egyesek attól tartanak, hogy a szabályok gyengék maradnak. A nagy céges részvétel azonban valódi erőt ad a lendületnek.