TC0는 n개의 n비트 숫자를 정렬하기, 두 개의 n비트 숫자 곱하기, 정수 나눗셈 또는 여러 종류의 괄호를 사용하는 다이크 언어 인식하기와 같은 몇 가지 중요한 문제를 포함한다. 이는 유계 깊이 인공 신경망의 계산 복잡도를 모델링하는 데 흔히 사용되며, 실제로 원래 이 목적으로 제안되었다.
정의
불 회로군(영어:Boolean circuit family)은 불 함수들의 피드포워드 네트워크로 구성된 불 회로의 열 이다. 이진 언어 가 TC0 종류에 속한다는 것은 다음을 만족하는 불 회로군 가 존재한다는 의미이다.
다항식 함수 와 상수 가 존재한다.
각 은 최대 개의 층에 있는 최대 개의 팬 인(fan-in) 제한이 없는 AND, OR, NOT 및 MAJ 게이트로 구성된다.
모든 에 대하여, 일 필요충분조건은 이다.
임계 게이트.
동등하게, MAJ 게이트 대신 다항식으로 유계된 정수 가중치와 임계값을 가진 임계 게이트를 사용할 수 있다. k개의 입력을 가진 임계 게이트는 가중치 목록 와 단일 임계값 로 정의된다. 이진 입력 가 주어지면, 이면 을 출력하고, 그렇지 않으면 을 출력한다. 임계 게이트는 인공 뉴런이라고도 한다.
가중치와 임계값이 이내로 유계된 AND, OR, NOT 및 임계 게이트로 구성된 불 회로가 주어졌을 때, 만약 네트워크에 이진 입력의 부정 를 함께 제공한다면, 동일한 깊이, 각 층의 게이트 수를 최대 두 배로 늘리고, 가중치를 이내로, 임계값을 이내로 유지하면서 AND, OR 및 임계 게이트만 사용하여 동일한 입출력 함수를 계산하는 네트워크로 변환할 수 있다. 따라서 TC0는 다음과 같은 조건을 만족하는 불 회로군 에 의해 결정되는 언어로도 정의할 수 있다.
다항식 함수 와 상수 가 존재한다.
각 은 최대 개의 층에 있는 최대 개의 임계 게이트로 구성되며, 가중치는 음수가 아닌 정수, 임계값은 정수이고, 가중치와 임계값 모두 이내로 유계된다.
모든 에 대하여, 일 필요충분조건은 이다.
본 문서에서는 기본적으로 AND, OR, NOT, 임계 게이트의 수가 다항식 개수이고, 정수 가중치와 임계값에 다항식 유계가 있는 불 회로를 고려한다. 가중치와 임계값에 대한 다항식 유계는 종류를 변경하지 않고도 완화할 수 있다.
산술 회로 복잡도 이론에서 은 의 상으로 정의되는 언어의 종류로 동등하게 특성화할 수 있다. 여기서 각 는 + 및 × 게이트와 상수를 가진, 다항식 크기의 상수 깊이, 팬 인 제한이 없는 산술 회로로 계산된다.
이 진부분집합인지 여부는 "회로 복잡도 분야의 주요 미해결 문제 중 하나"이다. 사실 가 진부분집합인지조차 미해결 문제이다! 이는 어떤 면에서 놀라운 일이 아닌데, 에 암호학적으로 안전한 유사난수 생성기가 존재한다고 가정할 때(이는 블럼 정수의 인수분해가 어렵다는, 즉 크기의 회로가 필요하다는 가정하에 명시적으로 구성됨), 를 증명할 자연적 증명이 존재하지 않기 때문이다. 더 일반적으로, 무작위성과 난해성은 밀접하게 관련되어 있음이 밝혀졌다. 인지 여부도 미해결 문제이다. 실제로 임은 2011년에야 증명되었다.
비균일(non-uniform) 와 은 튜링 기계로 계산 불가능한 함수를 계산할 수 있으므로, 와 인 것은 확실하다. 2011년의 결과는 단순히 와 가 서로 비교 불가능한 종류임을 보여준다. 와 또한 서로 비교 불가능한지 여부가 미해결 문제이다.
비결정적 시간 계층 정리가 임을 증명하지만, 두 복잡도 종류는 모두 균일(uniform)하며, 이는 단일 튜링 기계가 임의의 입력 길이에 대한 문제를 해결할 책임이 있음을 의미한다. 반면 회로군은 비균일할 수 있는데, 이는 유계 깊이와 크기를 가진 모든 개의 가능한 불 회로를 전수 조사한 다음, 회로가 올바른지 확인하기 위해 개의 모든 가능한 입력을 검사하는 것 외에 올바른 회로를 찾기 위한 좋은 알고리즘이 없을 수도 있음을 의미한다.
이라면 모든 에 대해, 불 수식 평가(Boolean Formula Evaluation) 문제를 해결하는 개의 게이트를 가진 회로군이 존재함이 증명되었다. 따라서 어떠한 초선형(superlinear) 유계라도 임을 증명하기에 충분하다.
균일 TC0
DLOGTIME-균일 은 다수결(Majority) 양화사가 있는 1차 논리와 동등하기 때문에 이라고도 알려져 있다. 구체적으로, 불 변수를 취하는 논리식이 주어졌을 때, 다수결 양화사 은 다음과 같이 사용된다. 정확히 하나의 자유 변수 를 가진 논리식이 주어지면, 양화된 는 의 절반 이상에 대해 가 참일 경우에만 참이다. 정수 나눗셈(비트 정수 가 주어졌을 때 찾기), 거듭제곱(비트 정수 와 비트 정수 가 주어졌을 때 찾기), 반복 곱셈(개의 비트 정수 곱하기)은 모두 DLOGTIME-균일 에 속한다. 이는 보통 에 적절한 균일성 수준으로 간주된다. 구체적으로, P는 보통 보다 강하다고 추측되는 반면, DLOGTIME은 어떤 의미에서 강도가 동등하다고 추측되므로, 의 균일성을 고려할 때는 보통 DLOGTIME-균일성이 가정된다.
균일 TC0의 함수 버전은 사영(projection) 및 다음 함수 집합 중 하나 , 에 대한 합성(composition)에 대해 닫혀 있는 것과 일치한다. 여기서 이고, 은 과 의 비트 단위 AND이다. 함수 버전이란 FP의 함수들로 유계되고 가 균일 TC0에 속하는, 음이 아닌 정수 위의 모든 함수 의 집합을 의미한다.
미세 구조
TC0는 최대 1층, 2층 등을 필요로 하는 언어의 계층으로 더 세분화될 수 있다. 를 최대 깊이 인 임계 회로군에 의해 결정 가능한 언어의 종류라고 하자:계층은 훨씬 더 세밀하게 나뉠 수 있다.
MAJ 대 임계값
MAJ 게이트는 때때로 가중치가 없는 임계 게이트라고 불린다. 이들은 균일 다항식 오버헤드 내에서 동등하다. 상세히 설명하면:
MAJ 게이트는 모든 가중치가 1이고 임계값이 팬 인의 인 임계 게이트이다.
다항식 정수 가중치와 임계값을 가진 임계 게이트를 포함하는 다항식 크기의 회로는 동일한 깊이의 다항식 크기 회로로 변환될 수 있다. 구체적으로, 가중치는 입력 회로를 복제하여 시뮬레이션할 수 있고, 임계값은 상수 참/거짓 입력을 복제하여 시뮬레이션할 수 있다.
더 나아가, 임의의(제한 없는) 정수 가중치와 임계값을 가진 단일 -입력 임계 게이트가 주어졌을 때, 개의 AND, OR, NOT 및 MAJ 게이트를 사용하여 깊이 2 회로를 구성하는 명시적 알고리즘이 존재한다. 따라서 모든 다항식 크기, 깊이 의 임계 회로는 깊이 의 다항식 크기 다수결 회로로 균일하게 시뮬레이션될 수 있다.
분리 정리로서, 아래 정의된 -입력 불 내적(IP) 함수는 3개의 층과 개의 게이트를 가진 다수결 회로로는 계산 가능하지만, 2개의 층과 개의 게이트를 가진 임계 회로로는 계산 불가능함이 알려져 있다.:Section 11.10.2
임의의 임계 게이트
고정된 에 대해, 임계 논리 소자로 계산 가능한 불 함수는 유한하기 때문에, 모든 를 정수로 설정하는 것이 가능하다. 을 가능한 모든 변수의 실수 임계 함수가 절댓값인 정수 가중치를 사용하여 실현될 수 있는 가장 작은 수 라고 하자. 다음이 알려져 있다.문헌 고찰은:Section 11.10을 참조하라.
때때로 깊이 인 다항식 유계 가중치와 임계값의 종류는 로 표기하고, 가중치와 임계값이 제한 없는 경우("큰 가중치 임계 회로")는 로 표기한다. 이는 실수값 활성화 함수를 가진 신경망을 형식화한다.
앞서 언급했듯이, 모든 다항식 크기, 깊이 의 임계 회로는 깊이 의 다항식 크기 다수결 회로로 균일하게 시뮬레이션될 수 있다. 따라서 이다. 임이 증명되었다.
시그모이드 함수를 허용하는 것은 능력을 증가시키지 않는데, 즉, 가중치가 다항식 유계라고 가정할 때 모든 에 대해 이다.
확률적 버전
P 종류에 확률적 버전인 BPP가 있는 것처럼, 에는 확률적 버전인 가 있다. 이는 다항식 확률적으로 결정 가능한 언어의 종류로 정의된다.
를 두 종류의 입력을 받는 불 회로군이라고 하자. 주어진 회로 은 결정론적 입력 과 인 무작위 입력 을 받는다. 무작위 입력은 모든 가능성에서 균등하게 샘플링된다.
언어 가 해당 회로군에 의해 다항식 확률적으로 결정된다는 것은, 각 에 대해, 이면 일 확률이 최소 이고, 이면 일 확률이 최대 임을 의미한다.
유사하게, (피드포워드) 볼츠만 머신은 유계 신뢰할 수 없는 임계 단위를 가진 회로로 모델링되었다. 즉, 각 임계 단위는 독립적으로 무작위로, 유계 확률 로 잘못된 출력을 낼 수 있다.
때때로 이 종류는 BPP와의 더 밀접한 유추를 위해 라고도 불린다. 이 정의에서, 일 확률은 일 때 최소 이고, 일 때 최대 이다. 여러 번 샘플링한 후 다수결 의견을 취하는 표준 기법에 의해, 모든 층 회로는 층 회로로 변환될 수 있다.
계층
인 것과 유사하게, 도 다음과 같이 나눌 수 있다.정의에 의해 이다. 더 나아가, 이므로, 전체 계층이 존재한다: 유사하게, 유계 신뢰할 수 없는 임계 단위를 허용할 때, 회로는 원본 회로의 여러 복사본을 병렬로 실행하여(각각 무작위 입력에 대한 고정된 선택, 즉 하드코딩된 어드바이스를 가짐) 그 출력에 대해 다수결을 취함으로써 회로로 변환될 수 있다. 최소한 하나의 어드바이스가 존재한다는 것은 헤프딩 부등식에 의해, 중간값 트릭과 본질적으로 동일한 논리로 증명된다. 이 논리는 단순한 존재 증명이며, 따라서 에 있어 중요한 방식의 균일성을 갖지 못하는데, 이는 브루트 포스 열거 외에는 어드바이스를 발견하기 위한 알고리즘을 제공하지 않기 때문이다.
을 계산하는 깊이 2 임계 회로의 하단 게이트 가중치가 다항식이면, 모든 에 대해, 충분히 큰 모든 에 대해 은 개의 게이트를 필요로 한다.
을 계산하는 깊이 2 임계 회로의 상단 게이트 가중치가 최대 이면, 상단 게이트는 최소 의 팬 인을 가져야 한다.
을 계산하는 깊이 2 임계 회로의 하단 게이트 가중치가 을 초과하지 않으면, 상단 게이트는 최소 의 팬 인을 가져야 한다.
계층이 얼마나 많은 수준을 갖는지는 미해결 문제이다. 와 같이 계층이 붕괴되는지 여부도 미해결 문제이다. 사실 에 대한 지수 하단 유계는 아직 없다. 따라서 하물며 깊이 3 다항식 크기 다수결 회로에 대한 지수 하단 유계도 아직 없다. 1층에 AND 게이트만 포함하거나 제한된 팬 인 게이트만 포함하는 등의 추가적인 제한이 가해지면 지수 하단 유계가 존재한다.:Section 11.10.3
단조(monotone) (즉, 불 부정이 없는 )에 대한 계층은 강력하게 분리된다. 구체적으로, 각 에 대해, 단지 개의 AND 및 OR 게이트를 사용하는 깊이 회로군에 의해 결정 가능하지만, 단조 로는 계산하기 위해 지수 크기를 필요로 하는 언어가 구성되었다.
게이트 수에 대한 다항식 유계가 완화되면 는 매우 강력해진다. 구체적으로, 에 속하는 모든 언어는 회로군(다수결 게이트 사용)에 의해 결정될 수 있는데, 단지 준다항식 개수의 게이트를 사용한다(다항식 대신). 이 결과는 의 3개 층으로 계산 가능하지만 (다수결 게이트 사용)에 대해서는 최소한 지수 개수의 게이트를 필요로 하는 함수가 존재한다는 점에서 최적이다.
각주
12Hesse, William; Allender, Eric; Mix Barrington, David (2002). “Uniform constant-depth threshold circuits for division and iterated multiplication”. 《Journal of Computer and System Sciences》65 (4): 695–716. doi:10.1016/S0022-0000(02)00025-9.
↑Hesse, William (2001), 〈Division Is In Uniform TC0〉 (영어), Orejas, Fernando; Spirakis, Paul G.; van Leeuwen, Jan (편집), 《Automata, Languages and Programming》, Lecture Notes in Computer Science 2076, Berlin, Heidelberg: Springer Berlin Heidelberg, 104–114쪽, doi:10.1007/3-540-48224-5_9, ISBN978-3-540-42287-7, 2025년 3월 19일에 확인함지원되지 않는 변수 무시됨: |chapter-url-access= (도움말)
↑Allender, E. (1996). 〈A note on uniform circuit lower bounds for the counting hierarchy〉. 《Proceedings 2nd International Computing and Combinatorics Conference (COCOON)》. Springer Lecture Notes in Computer Science1090. 127–135쪽. As cited in Burtschick, Hans-Jörg; Vollmer, Heribert (1998). “Lindström quantifiers and leaf language definability”. 《International Journal of Foundations of Computer Science》9 (3): 277–294. doi:10.1142/S0129054198000180. ECCCTR96-005.
↑Volkov, Sergey. (2016). “Finite Bases with Respect to the Superposition in Classes of Elementary Recursive Functions, dissertation”. arXiv:1611.04843 [cs.CC].
1234Jukna, Stasys (2012). 《Boolean Function Complexity: Advances and Frontiers》. Algorithms and Combinatorics. Berlin, Heidelberg: Springer Berlin Heidelberg. ISBN978-3-642-24507-7.
↑Alon, Noga; Vũ, Văn H (1997년 7월 1일). “Anti-Hadamard Matrices, Coin Weighing, Threshold Gates, and Indecomposable Hypergraphs”. 《Journal of Combinatorial Theory, Series A》79 (1): 133–160. doi:10.1006/jcta.1997.2780. ISSN0097-3165.
↑Allender, E. (10월 1989). 〈A note on the power of threshold circuits〉. 《30th Annual Symposium on Foundations of Computer Science》. 580–584쪽. doi:10.1109/SFCS.1989.63538. ISBN0-8186-1982-1.다음 날짜 값 확인 필요: |date= (도움말)