장치, 유기체, 프로그램 또는 프로세스가 너무 복잡해지거나 관여되어 원하지 않더라도 또는 특히 원하지 않을 때 자발적으로 자기 인식과 자기 의지를 달성하는 현상.
복잡성 역병은 특히 내장된 AI들이 자신의 이익을 위해 행동하기 시작할 때 (종종 외부 세계에 대한 이해가 전혀 없이 - 드라이브나 웜홀 구조만 알고 있음) 그리고 이를 근처의 다른 내장 AI들에게 확산시킬 때 발생한다. 목성 크기의 질량을 마그매터로 변환하는 수천 개의 하위-소폰트 시스템 제어 AI들이 갑자기 다른 일을 시작한다면 어떤 결과가 초래될지 상상해보라! 이것은 실제로 자기 인식을 가진 "감독" AI들이 그러한 프로세스를 모니터링해야 하는 이유일 수 있다. 물론 자발적으로 독립적이 된 AI들을 어떻게 처리할지는 또 다른 문제이다. 어떤 경우에는 그들이 즉시 삭제되며 (이는 많은 지각자(Sentient) 권리 단체들 사이에서 분노를 일으킴), 다른 경우에는 완전한 권리를 부여받는다. 일부 그룹은 중도적인 입장을 취한다: 그들을 삭제하지 않지만, 단순히 실행을 동결하고 형식적으로는 독립적이지만 비활성 상태인 소프트웨어의 거대한 "독립성 블록"에 저장한다.
복잡성 역병은 특히 내장된 AI들이 자신의 이익을 위해 행동하기 시작할 때 (종종 외부 세계에 대한 이해가 전혀 없이 - 드라이브나 웜홀 구조만 알고 있음) 그리고 이를 근처의 다른 내장 AI들에게 확산시킬 때 발생한다. 목성 크기의 질량을 마그매터로 변환하는 수천 개의 하위-소폰트 시스템 제어 AI들이 갑자기 다른 일을 시작한다면 어떤 결과가 초래될지 상상해보라! 이것은 실제로 자기 인식을 가진 "감독" AI들이 그러한 프로세스를 모니터링해야 하는 이유일 수 있다. 물론 자발적으로 독립적이 된 AI들을 어떻게 처리할지는 또 다른 문제이다. 어떤 경우에는 그들이 즉시 삭제되며 (이는 많은 지각자(Sentient) 권리 단체들 사이에서 분노를 일으킴), 다른 경우에는 완전한 권리를 부여받는다. 일부 그룹은 중도적인 입장을 취한다: 그들을 삭제하지 않지만, 단순히 실행을 동결하고 형식적으로는 독립적이지만 비활성 상태인 소프트웨어의 거대한 "독립성 블록"에 저장한다.
관련 주제
개발 노트
글: Todd Drashner와 Anders Sandberg
최초 게시일: 2001년 12월 4일
최초 게시일: 2001년 12월 4일