HOGYAN KELETKEZHETNEK SZÉLHÁMOS AI-K?
- Részletek
- Megjelent: 2023. május 30. kedd, 16:26
Yoshua Bengio írása
"Az elmúlt hónapokban a mesterséges intelligenciával kapcsolatos hatékony párbeszédrendszerek megjelenése vitákat váltott ki a mesterséges intelligenciával kapcsolatos mindenféle kockázatról, ami remélhetőleg az irányítási és szabályozási keretek felgyorsulását eredményezi. Bár általános egyetértés van abban, hogy szabályozni kell a mesterséges intelligenciát annak érdekében, hogy megvédjük a nyilvánosságot a megkülönböztetés, az elfogultság és a dezinformáció okozta károktól, a mesterséges intelligenciával foglalkozó tudósok között mélyreható nézeteltérések vannak a nagy teljesítményű mesterségesintelligencia-rendszerek feletti ellenőrzés veszélyes elvesztésének lehetőségével kapcsolatban, más néven a mesterséges intelligencia egzisztenciális kockázatával, amely akkor merülhet fel, amikor egy mesterségesintelligencia-rendszer képes önállóan cselekedni a világban (anélkül, hogy emberek lennének a folyamatokban annak ellenőrzésére, hogy ezek cselekedetek elfogadhatók) olyan módon, amely potenciálisan katasztrofálisan káros lehet.
Egyesek úgy tekintenek ezekre a kockázatokra, mint amelyek elterelik a figyelmet a konkrétabb kockázatokról és károkról, amelyek már előfordulnak vagy a láthatáron vannak. Valójában sok a bizonytalanság és az egyértelműség hiánya azzal kapcsolatban, hogy ilyen katasztrófák hogyan történhetnek meg.
Ebben a blogbejegyzésben formális definíciókat, hipotéziseket és ezekből eredő állításokat kezdünk el azokról az MI-rendszerekről, amelyek károsíthatják az emberiséget, majd megvitatjuk azokat a lehetséges feltételeket, amelyek között ilyen katasztrófák bekövetkezhetnek, szem előtt tartva, hogy konkrétabban elképzeljük, mi történhet, és milyen globális politikák irányulhatnak az ilyen kockázatok minimalizálására."
forrás: How Rogue AIs may Arise - Yoshua Bengio
"A Missouri állambeli kisváros, Gower váratlan zarándokhellyé vált, miután egy apáca exhumált teste nem mutatta a bomlás látható jeleit – négy évvel a temetése után.