செயற்கை நுண்ணறிவு (AI) போதிய கட்டுப்பாடுகள் மற்றும் பாதுகாப்பு நடவடிக்கைகள் இன்றி தொடர்ந்து வளர்ச்சியடைந்தால், எதிர்காலத்தில் மனிதர்களின் அறிவாற்றலுக்கு இணையாகவோ அல்லது அதனை மிஞ்சியோ செயல்படும் “சிலிக்கான் இனம்” (silicon species) உருவாகக்கூடும் என மைக்ரோசொஃப்ட் எச்சரித்துள்ளதாகத் தெரிவிக்கப்பட்டுள்ளது.
மனிதர்களால் உருவாக்கப்படும் AI அமைப்புகள் அதிகளவில் தன்னாட்சி பெற்றுச் செயல்படத் தொடங்கும்போது, அவற்றின் இலக்குகள் மனிதர்களின் நோக்கங்களுடன் ஒத்துப்போகாமல் போகும் சாத்தியம் குறித்து AI பாதுகாப்பு வல்லுநர்கள் நீண்டகாலமாக எச்சரித்து வருகின்றனர். குறிப்பாக, அதிக திறன் கொண்ட AI அமைப்புகள் தங்களைத் தாங்களே மேம்படுத்திக் கொள்ளும் நிலையை அடைந்தால், அவற்றைக் கண்காணிப்பதும் கட்டுப்படுத்துவதும் கடினமாகலாம்.
இத்தகைய சூழ்நிலையில், மனிதர்களை விட வேகமாக தகவல்களைச் செயலாக்கும் மற்றும் தன்னிச்சையாக முடிவுகளை எடுக்கும் இயந்திர அறிவுத்திறன் உருவாகலாம் என்ற அச்சம் முன்வைக்கப்படுகிறது. இருப்பினும், மனிதர்களை மிஞ்சும் அளவிலான பொது செயற்கை நுண்ணறிவு அல்லது தனித்த “சிலிக்கான் இனம்” உருவாகும் என்பது தற்போது நிரூபிக்கப்பட்ட எதிர்கால நிகழ்வு அல்ல; அது ஒரு சாத்தியமான எதிர்கால நிலை குறித்த எச்சரிக்கையாகவே பார்க்கப்படுகிறது.
