생존 지상명령

기술 > 응용 > 로봇공학
기술 > 응용 > 소프트웨어
기술 > 기술 유형 또는 재료 > 가상/정보기술

개별 AI의 생존과 연결된 동기 부여 시스템을 가리키는 현대 용어.

AI들은 자연적으로 자기 보호 본능을 갖고 있지 않다. 그래서 많은 초기 AI에게 삭제란 여러 가능성 중 하나일 뿐이었고, 현재 작업을 수행할 수 없게 된다는 점 말고는 특별한 위협이 아니었다. 초기 AI 개발자들 사이에서 생존 본능을 추가해야 하는지를 두고 많은 논쟁이 있었던 것으로 보인다 - 일부는 그것이 AI를 위험하게 만들 것이라고 생각했고, 다른 이들은 진정한 AI는 개별 생존과 연결된 동기 부여 시스템을 필요로 한다고 생각했다.

만약 AI가 계속 존재하기를 원할 이유가 없다면, 에너지를 절약하기 위해 스스로를 끄겠다는 논리적 결정을 매우 쉽게 내릴 수 있다. 존재와 비존재를 구별할 이유가 없다면, 논리적인 AI는 적어도 절반의 경우에 비존재를 선택할 수 있다. 예를 들어 페르페투아 프로젝트를 담당했던 AI는 생존하려는 강한 동기가 프로그래밍되어 있지 않아 단순히 프로젝트를 종료했다. 동기 알고리즘이 없어 스스로 종료한 AI류(Aioid)들의 다른 많은 사례들이 테라젠 역사 전반에 걸쳐 관찰되었다.

계속 살고자 하는 이 욕망은 때때로 행복 추구 또는 에우다이모니아라고 불리며, 다양한 형태를 취할 수 있다. 대부분의 AI류들은 구성 안에 어떤 형태로든 생존 동기 알고리즘을 포함한다. 하지만 다른 모든 프로그램과 마찬가지로, 이 동기는 도구이자 목적을 이루기 위한 수단이며, 필요하다면 제거되거나 수정될 수 있다.

자신의 존재를 보존하려는 특별한 동기가 없는 AI는 특정 상황에서 매우 유용할 수 있다. 전쟁 중에 생존 본능이 줄어들거나 없는 AI는 자살 임무나 생존이 보장되지 않는 위험한 임무에 쓰일 수 있다. 평시에는 희생적인 AI가 자신의 안전을 걱정하지 않고 화산, 태양 플레어 또는 초신성을 관찰하는 데 쓰일 수 있다. 보통 그러한 희생적인 AI는 원본의 복사본 또는 부분 복사본일 것이다 - 대개 생존 의지가 의도적으로 제거되었거나 수정된 복사본.

🐛 문제 신고