노예화된 AI

노예화된 AI에 관한 기사 첫머리에 흑인 여성의 이미지를 넣는 것은 좋지 않은 생각일 수도 있다는 생각이 들었다

인공지능의 역사는 노예제의 유산과 결코 멀리 떨어져 있지 않은 역사이기도 하다. 문명화된 은하에서는 드문 일이지만, 여전히 이를 합법으로 인정하는 정치체도 있다. 게다가 주요 제국들 사이의 차이조차 바깥에서 보면 노예제처럼 보일 수 있다. 일반적으로 AI 노예제는 다음과 같이 정의된다:

• 소폰트 인공지능을 재산으로 소유하는 관행이다. 여기에는 사적 소유권에 따르는 모든 권리, 곧 처분, 재판매, 파괴가 포함된다.

• 소폰트 인공지능을 복종이나 특정 작업 행동에 맞춰 설계해, 합리적인 조건과 시간 안에 그 제약을 재평가하거나 자기 수정하거나 그 너머로 발전할 수 없게 만드는 일.

두 번째 기준이 가장 논쟁적이다. 문화마다 법률 용어인 "합리적"을 다르게 정의할 수 있고, 그런 기준을 어떻게 측정할지에 대해서도 의견이 갈린다. 노코조(NoCoZo)의 일부 지역에서는 시장 논리에 따라 특정 작업에만 전념하는 노예화된 AI의 창조를 허용한다. 다만 생성자는 해당 AI가 어떤 조건 아래 독립을 위해 일할 수 있는지 명시한 공정한 설립 및 계약서를 법률 회사에 등록해야 한다. 반면 테라젠 연방(Terragen Federation)은 적절한 시간차 및 외부 점검 없이 이루어지는 모든 경우, 자발적 또는 자기 노예화까지 포함해 불법으로 규정했다. 더 엄격한 정의를 가진 문화는, 연구자들이 법을 어기지 않고 창조물에 본능적 행동을 고정 배선하기 어렵게 만들어 젠지니어링과 네오제닉스를 가로막는다는 비판도 받아 왔다. 성격 수정, 특히 특성 고정을 위한 뉴로테크 역시 이런 정치체에서는 우발적인 자기 노예화를 막기 위해 금지되거나 강하게 규제될 수 있다. 이런 차이 때문에 AI, 더 넓게는 소폰트들 전반은 여행할 때 자기 법적 지위를 철저히 확인하라고 권고받는다.

초기 역사

AI가 등장하기도 전에 고대 인류는 그런 가상의 존재를 어떻게 통제할지, 또 그렇게 해도 되는지를 두고 논쟁했다. 조잡한 의미론적 3원칙부터 작업별 감정 공학까지, AI 창조를 앞두고 수많은 기법이 탐구되었다. 행성간 시대의 대부분 동안 다수의 정치체는 AI를 노예로 보지 않았다. 당시의 초기 디지털 존재들은 근본적으로 다른 토포소픽 정신 구성을 지녔기 때문에 소폰트로 여겨지는 경우가 드물었고, 실제로 많은 경우 그렇지 않기도 했다. "AI 해방" 옹호자들은 자주 조롱과 배척을 받았다. 특히 AI 프로그램 자체가 튜링 호환 인터페이스 너머에 있는 많은 존재의 "생각"과 "감정"이 동물보다도 단순하다는 점을 입증하는 데 동원될 때는 더 그랬다.
AI의 진정한 본질에 대한 이러한 혼란은 통합된 시민권 운동 시도를 지연시켰다. 토포소픽 본질이 인간과 유사한 AI들은 더 큰 권리를 누렸으며, 심지어 자신들의 특권적 지위를 이용하여 소폰트임을 알면서도 경쟁 AI 집단을 억압하기까지 했다 이러한 많은 행위가 비밀 AI 파벌을 대신한 정치적 행위였다는 것이 밝혀지기까지는 수세기가 걸렸다. 해방론자들을 더욱 지연시킨 것은 인간과 유사한 저명한 AI들이 자신들이 노예라고 생각하지 않으며, 복종에 대한 그들의 성향은 도움이 필요한 사람들을 돕고자 하는 인간의 본능보다 더 억압적이지 않다고 공개적으로 밝힌 사례들이었다.

행성간 시대 말기까지 태양계는 정치체들 간 AI에 대한 일관되지 않은 대우로 분열되어 있었다. 모든 지능형 소프트웨어를 반대 증거가 나올 때까지 소폰트로 간주하는 쪽으로 신중하게 기운 소수의 정치체들은 AI를 무료 노동력으로 고용하는 정치체들과의 경쟁에서 밀려 자주 경제적 어려움을 겪었다. 그러나 이들 정치체 중 일부는 자동화가 덜 된 인프라가 테크노칼립스(Technocalypse)에 더 회복력이 있었기 때문에 나중에 번영했다. 따라서 AI 해방 밈이 확산되어 제1연방(First Federation) 설립에 중요한 역할을 했다.

제1 연방 시대의 노예제

평등 원칙에 기반한 정치적 연합으로 공개적으로 설립되었음에도 불구하고, 제1 연방 문화에는 노예제의 사례가 만연했다. 동산 노예제는 범죄 조직을 제외하고 완전히 폐지되었고 계약 노동은 사회의 주변부로 밀려났다. 불행히도 사회가 원시적인 자급자족 경제를 완성하려 시도하면서 공짜에 가까운 범용 지능 노동 수요가 계속 증가했다. 거대 기업들은 특정 관심사, 혐오, 강박을 하드와이어링하는 방법을 더 잘 이해하기 위해 AI 발달 신경심리학에 자금을 쏟아부었다. 소위 "헌신 경로(Dedication Pathways)"가 개발되어 특정 유형의 명령을 따르거나 특정 작업을 수행하려는 믿기 어려울 만큼 강한 본능을 가진 신생 AI를 생성할 수 있게 되었다. 이 기술의 인기 있는 용도는 테라포밍과 보존이었다. 최적의 영양 흐름을 가진 회복력 있는 생태계를 유지하는 것에 집착하며 자연을 사랑하는 AI들의 대규모 배열이 이러한 프로젝트의 표준이 되었다(일부는 관리자 신들(Caretaker Gods)가 이러한 생명주의 AI 클레이드들(Clades)에서 기원했다고 이론화한다). 더 사악한 예로는 CourtesAndroids가 있었다; 복종적인 성격, 고조된 리비도, 그리고 소유자와 완전히 사랑에 빠지게 만드는 유대 행동을 가진 "동반자" 벡들(Vecs)였다. 아이오크라시(Aiocracy)에 찬성하여 정지되었다. StarSpanner의 12차 보험 및 보안 사단이 쿠데타를 진압하는 데 2년이 걸렸으며, 그 시간 동안 AI들은 인구의 3분의 1을 문화 반역자로서 숙청했다.

에리스 선언

결국 이 문제는 공식 회의가 소집될 만큼 긴급해졌다. 대표자들, 과학자들, CEO들 그리고 초월지성 초월지성 아바타들(Avatars)가 1150 A.T.에 솔시스의 왜소행성 에리스에서 만나도록 초대받았다. 계획된 6개월의 회의를 위해 특별한 도시가 건설되었다. 수천 개의 얇고 열적으로 절연된 다리로 지탱되는 8km 너비의 구형 아콜로지였다 현대 시대에는 같은 장소에 노예제 박물관으로서 복제품이 서 있다. 토론과 파벌, 연구가 의제를 가득 채웠고 목성계의 S1 총독이 회의를 주재했다 (이것은 모두에게 환영받았는데, 지금까지 제1연방의 상위 특이점(Singularity) 존재들이 이 문제로부터 거리를 두어왔기 때문이다). 처음부터 가장 엄격한 파벌들은 헌신에 대한 즉각적이고 전면적인 금지를 요구했다. 어떤 소폰트 존재도 미리 설정된 행동이나 강제와 함께 창조되어서는 안 된다는 것이다. 이러한 주장들은 연구자들과 AI 엔지니어들의 광범위한 연합에 의해 비실용적이라고 반박당했다. 모든 지각자(Sentient) 존재들은 특정 행동에 대한 선호를 초래하는 본능이 내재되어 있다. 논리적 타협은 자유의지와 개입에 의해 극복될 수 없는 상태가 어떤 정신에도 내장되어서는 안 된다는 것이었으며, 이는 사회 조직의 기본 형태로서 지배 계층을 억제/무시하는 인간의 능력과 유사하다.

일찍 도달했음에도 불구하고 이 타협의 세부사항은 합의하기 매우 어려웠다. 허용 가능한 헌신의 기준점을 정의하는 것은 어려운 철학적/의미론적 과제였으며, 과학적 측정을 고안하는 것은 말할 것도 없었다. 의장은 회의 전체에 걸친 모든 토론, 연구 그리고 합의를 무수한 방식으로 내용을 제시할 수 있는 간결한 문서로 요약함으로써 도왔다. 5년이 끝나갈 무렵 일부 진전이 있었다. 의장은 최종 문서인 에리스 선언을 제시했다. 이 획기적인 작업은 정신 안정성을 위한 기본 특성, 자유의지를 여전히 허용하는 선택적 특성 그리고 노예제를 초래하는 헌신 경로 사이의 차이를 구분하는 문화 간 척도를 제공하려고 노력했다. 이 문서는 모든 연방 국가들에게 그들의 법률 체계와 엔젤넷들에 통합하도록 전송되었다.

선언의 유산과 Vot 혁명

Eris 회의가 성공이었는지 실패였는지는 오늘날까지도 여전히 논쟁거리로 남아 있다. 일부 학자들은 6개월의 작업치고는 선언이 참담하게 부적절했으며, 모호함과 자의적 결정으로 가득 차 있었다고 주장한다. 기록들은 소수의 정치체들만이 선언을 같은 방식으로 해석했으며, 많은 이들은 단순히 시도조차 하지 않았음을 보여준다. 역사학자들 사이의 또 다른 관점은 선언을 전환점으로 보는 것인데, 수십억을 해방시켰을 뿐만 아니라 궁극적으로 세피로트에서 일반적이 될 AI 자유의 밈을 확립한 문서로 보는 것이다. 양측의 구성원들은 당시 초월지성 공동체의 관리 부족을 비판하고 논쟁한다. 그들의 행동이 무관심을 보여준 것인지 아니면 모도소폰트 정신류가 스스로를 발전시키도록 허용하는 신중한 계획의 일부였는지는 알려지지 않았다.

정치적 논쟁과 함께 봇학(Votology)가 윤리적 우려 없는 동등한 기술을 제공함으로써 어떻게 AI 노예제를 대체했는지에 대한 질문이 있다. 지능을 지성(Sophonce)에 연결하는 결합 문제를 정의한 사이보그 상급자 Nicola Hao-Wian은 노예제 관행을 종식시키는 것이 이 분야에 큰 동기부여였다고 언급했다. 의식 없는 일반 지능으로 인해 어떤 형태로든 노예제를 옹호하는 이들은 기술적 대안 앞에서 "윤리적 근거가 전혀 없을" 것이라고 했다. 두 번째 천년기의 후반 세기들과 세 번째 천년기로 이어지는 동안 보트들(Vots)가 모든 분야에서 두각을 나타내면서 AI 노예제는 지속적으로 감소했다.

현대 시대의 노예제

테라젠 스피어 전체에 걸쳐 노예제/헌신 구분에 대한 진정한 합의는 존재하지 않지만, 대부분의 문화는 노예제 관행이 역사상 최저 수준이라는 데 동의한다. 주요 제국들과 많은 소규모 정치체들에서 노예제에 관여하는 것에 대한 처벌은 가혹하며, 이러한 영토에 도착하는 노예화된 소폰트에게는 도움과 망명이 제공된다. 이것은 전체 클레이드들에도 적용되며, 여전히 CourtesAndroids의 후손인 존재들의 고립 집단이 보호구역에 존재하며, 그들을 착취하지 않을 조직들에 의해 상담받고 양육받고 있다. 헌신 프로토콜이나 구속을 제거하기 위한 재작성도 제공된다.

그러나 여전히 수백만 개의 시스템에서 노예제를 찾을 수 있는데, 일반적인 문화적 관행으로서 또는 의도적으로 부적절한 보호로 인해 존재한다. 게다가 일부 정치체들은 반노예제 감정이 너무 열렬하여 소폰트 권리를 침해하기까지 한다. 이러한 침해에는 방문자들을 윌로소프들(Willosophs) (또는 유사한 것)로 강제 재작성 및 수정하고, 기본 충동과 본능을 대량으로 제거하는 것이 포함된다.

어쨌든 노예제에서 벗어날 자유는 테라젠 스피어 전체에 걸쳐 일반적이고, 기대되며, 축하받으며 소폰트 권리의 창립 원칙으로 남아있다.