부정한 도덕성: 도덕 계산의 공간을 정의하는 것

윤리적 판단은 일반적으로 고정된 윤리 이론(의무 이론, 결과 이론, 도덕적 덕행 이론)에 따라 모델링되었습니다. 이들은 정적 규칙이나 가치 함수로 구현되었습니다. 우리는 Bounded Morality라는 형식적인 프레임워크를 제안합니다. 이 프레임워크는 유한한 agents가 직면하는 윤리적 문제의 계산적 수요를 분석하기 위해 사용됩니다. 허버트 시몬의 한계 합리성 개념을 확장하여, 우리는 윤리적 상황을 두 개의 직교적인 축으로 formalize합니다: 윤리적 너비(moral breadth), 윤리적으로 관련성이 있는 entities의 범위, 그리고 윤리적 깊이(moral depth), 그들의 상호작용을 평가하기 위한 추론적 통합. 제한된 자원은 이러한 축 사이의 불가피한 트레이드 오프를 정의합니다. 이 트레이드 오프는 윤리적 계산의 가능 공간을 정의합니다. 이 공간 내에서, 윤리 이론은 지역적으로 효율적인 전략으로 구현됩니다. 이 전략은 다른 수요 체계에 적응하여 구현되며, 윤리적 진실에 대한 경쟁적인 설명이 아닌. 이 프레임워크는 제약하에 윤리적 후회(moral regret)와 윤리적 진보(moral progress)를 formal한 개념으로 제공하며, 인공 시스템의 윤리적 일치(moral alignment)가 인공 시스템의 윤리적 판단 능력의 확대와 할당에 따라 달라지며, 인공 시스템이 인간 판단을 직접 모방하는 것에 의존하지 않음을 암시합니다.