𝌎Complextropy

Complextropy is an information theoretical quantity defined as the length of the shortest computer program that describes a set S of which x is a β€œrandom” or β€œgeneric” member, factoring in computational resource bounds. It is intended to be a measure of "sophistication" that ignores the contribution of arbitrary or random bits to Kolmogorov complexity.

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€ COMPLEXTROPY ANALYZER ─────────────────┐
β”‚ Measuring Structured Complexity vs Random Noise     β”‚
│━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━│
β”‚                                                    β”‚
β”‚ Input Analysis:                                    β”‚
β”‚ β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”          β”‚
β”‚ β”‚ Sample x: "101011010110"             β”‚          β”‚
β”‚ β”‚                                      β”‚          β”‚
β”‚ β”‚ Total Length: 12 bits                β”‚          β”‚
β”‚ β”‚ Pattern Bits: 4 bits                 β”‚          β”‚
β”‚ β”‚ Random Bits: 8 bits                  β”‚          β”‚
β”‚ β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜          β”‚
β”‚                                                    β”‚
β”‚ Program Length Decomposition:                      β”‚
β”‚ β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”          β”‚
β”‚ β”‚ Kolmogorov Complexity                β”‚          β”‚
β”‚ β”‚ ═══════════════════════              β”‚          β”‚
β”‚ β”‚ Complextropy                         β”‚          β”‚
β”‚ β”‚ ═════                                β”‚          β”‚
β”‚ β”‚ Random Noise                         β”‚          β”‚
β”‚ β”‚ ══════════════                       β”‚          β”‚
β”‚ β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜          β”‚
β”‚                                                    β”‚
β”‚ Set Membership Analysis:                           β”‚
β”‚ β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”          β”‚
β”‚ β”‚ Set S = {strings with pattern "1*0*"} β”‚          β”‚
β”‚ β”‚                                      β”‚          β”‚
β”‚ β”‚ x₁: 10101101                        β”‚          β”‚
β”‚ β”‚ xβ‚‚: 10110110  ← Sample x            β”‚          β”‚
β”‚ β”‚ x₃: 11010101                        β”‚          β”‚
β”‚ β”‚ ...                                 β”‚          β”‚
β”‚ β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜          β”‚
β”‚                                                    β”‚
β”‚ Resource-Bounded Computation:                      β”‚
β”‚ β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”          β”‚
β”‚ β”‚ Time: O(nΒ²)   Space: O(n)           β”‚          β”‚
β”‚ β”‚ β”Œβ”€β”€β”€β”€β”€β”    β”Œβ”€β”€β”€β”€β”€β”    β”Œβ”€β”€β”€β”€β”€β”       β”‚          β”‚
β”‚ β”‚ β”‚Inputβ”‚ ─> β”‚Proc.β”‚ ─> β”‚Outputβ”‚      β”‚          β”‚
β”‚ β”‚ β””β”€β”€β”€β”€β”€β”˜    β””β”€β”€β”€β”€β”€β”˜    β””β”€β”€β”€β”€β”€β”˜       β”‚          β”‚
β”‚ β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜          β”‚
β”‚                                                    β”‚
β”‚ Complexity Spectrum:                               β”‚
β”‚ β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”          β”‚
β”‚ β”‚ Low         Medium        High       β”‚          β”‚
β”‚ β”‚  β–‘β–‘β–‘         β–’β–’β–’          β–“β–“β–“       β”‚          β”‚
β”‚ β”‚ Random   Structured    Complex       β”‚          β”‚
β”‚ β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜          β”‚
β”‚                                                    β”‚
β”‚ [Calculate] [Analyze Pattern] [Compare Samples]    β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

https://scottaaronson.blog/?p=762