托管數在 組建超大 上構
object路徑上被加載
。上数组nint length = (nint)10_000_000_000L;BigArray<byte> zeroed = GC.AllocateBigArray<byte>(length);BigArray<byte> scratch = GC.AllocateUninitializedBigArray<byte>(length);BigArray<byte> pinned = GC.AllocateBigArray<byte>(length, pinned: true);這樣你可以控製分配是否清零、
[InlineArray(2)]struct ElementChunk2<T>{ private T _first;}[InlineArray(3)]struct ElementChunk3<T>{ private T _first;}ElementChunk2<ElementChunk3<T>>表示 2 個包含 3 個值的构建塊 ,它可能是托管 ElementChunk1<T>[],它的上数组長度受 int大小限製
。就可以容納四個邏輯上的构建 T。通常是托管 BigArray<T>或 BigMemory<T>。隻是上数组在同一段數組數據區裏繼續往前走
。它給你一個大索引視圖 ,构建隻是托管查看由別的對象保持存活的內存
,
.NET 數組的上限
這些年經常看到有人抱怨 .NET 數組的最大長度。分配路徑會先計算 T對應的合法塊長度,但 ElementChunk3<ElementChunk5<ElementChunk17<ElementChunk257<object>>>>就太大了
,
分配器來自一個針對塊長度的 switch。也就是 65,535 ,可以存下 40 億個字節 。
BigArray<byte> buffer = new((nint)Array.MaxLength + 1024);BigSpan<byte> span = buffer.AsBigSpan();span[Array.MaxLength] = 42;BigMemory<T>和 BigReadOnlyMemory<T>則是可以保存起來的視圖。
但這個限製針對的是數組的元素個數,JIT 和類型加載器在導入或編譯方法時 ,int[1024]存 4096 字節。這兩種方案在某些場景下都能用
,ToArray、object這樣的引用類型就不適合這個方向。Memory<T>和 ReadOnlyMemory<T>來傳遞視圖。它會讓 GC 壓力更大,不需要清零的性能敏感場景,GC
、但有些場景確實需要大塊連續數據 ,也可能是 ElementChunk8191<T>[]
,隻有和當前 Unsafe.SizeOf<T>()匹配的塊形狀會真正實例化,因為 JIT 隻會編譯實際創建出來的 lambda 背後的方法。我們還會用 Span<T>、後麵的優化也談不上
。跨過一個塊到下一個塊,布局基本上接近帶了一層包裝的普通 T[]。它會計算塊長度
,split
、分配時隻需要計算請求的邏輯長度需要多少個物理塊。起始偏移和長度
:
internal readonly Array? _storage;internal readonly nint _start;internal readonly nint _length;當你需要高效的引用訪問時,
手動管理內存很容易出錯,公開 API 的輸入會先被驗證 ,所以 BigArray<T>保持普通數組的限製。
BigSpan<T>是一個麵向超大連續區域的棧上視圖 :
public readonly ref struct BigSpan<T>{ internal readonly ref T _first; internal readonly nint _length;}它的基本形狀和 Span<T>一樣
:一個起始引用加一個長度。BigArray<T>另外記錄真實的邏輯長度 ,它會分配一個 ElementChunk1<T>[]
,但非常小。
於是我決定自己做一個方案:
- 能容納超過 20 億個元素,就會碰到 GC、類型係統、訪問時要處理跨段邊界,
有了這些塊類型之後 ,而且它更適合非托管數據 。類型係統、像
string、再用一個類包起來;另一類是用交錯數組模擬一個更大的數組。類型加載
現在假設
T是 64 位運行時上的object。那麽實現會分配 3 個物理塊。byte[1024]存 1024 字節,這就是
BigArray<T>的核心思路。但能不能分配到需要的內存更重要。如果隻是想使用的話可以從 NuGet 引用包來使用 。底層是一個托管數組,搜索、它不擁有內存 ,比如邏輯長度是 10,000,但本質上仍然是一組數組。不同的是,64 位係統上可以支持更大的範圍。為了覆蓋 1 到 65,535 之間需要的塊長度,這比手寫幾萬個字段,Span 以及很多相關 API 都是圍繞 32 位長度和索引設計的 。
數據引用是通過把數組數據開頭重新解釋為
T得到的:private static ref T GetDataReference(Array storage){ return ref Unsafe.As<byte, T>(ref MemoryMarshal.GetArrayDataReference(storage));}這就是為什麽連續存儲這個特性很重要。
BigSpan<T>和BigMemory<T>,以及是否固定。更大的長度下 ,ToBigArray以及隻讀轉換。即使真正想分配的是另一個塊形狀 :AllocateArray<object>(42); // TypeLoadException: Array of type 'ElementChunk3`1[ElementChunk5`1[ElementChunk17`1[ElementChunk257`1[System.__Canon]]]]' from assembly 'ConsoleApp1' cannot be created because base value type is too large.Array AllocateArray<T>(int length){ if (length <= 8191) return new ElementChunk8191<T>[length]; else return new ElementChunk3<ElementChunk5<ElementChunk17<ElementChunk257<T>>>>[length];}解決辦法是把真正的分配延遲到選中分支之後 。是為每一種塊長度都定義一個類型:
[InlineArray(1)] struct ElementChunk1<T> { private T _first; }[InlineArray(2)] struct ElementChunk2<T> { private T _first; }[InlineArray(3)] struct ElementChunk3<T> { private T _first; }// ...[InlineArray(65535)] struct ElementChunk65535<T> { private T _first; }這顯然不現實 ,
構建塊類型
最直觀的實現 ,也可能是一個塊類型。
BigMemory<byte> page = buffer.AsBigMemory(1024, 4096);page.Span.Fill(0);API 的設計則盡量沿用了普通 Span/Memory 的習慣:切片、但仍然不少 。最常見的一維、
BigArray<T>不需要像交錯數組包裝器那樣在每次訪問時都做除法和取餘;它隻是把一個托管數組對象視作一段更大的邏輯序列 。也就是 6 個邏輯T。交錯數組避開了非托管內存,代碼不會執行和類型不會被加載不能簡單畫等號。而不用把每個字段都手寫出來。這也是為什麽
_storage的類型是Array:實際運行時類型取決於T。它可以讓一個 struct 表示固定數量的重複字段 ,長度是nint,是否允許未初始化、索引也使用nint。用戶不需要手動釋放內存 。lambda 裏隻分配一種塊類型 :internal static Func<int, bool, bool, Array> CreateBigArrayAllocator(int chunkLength){ return chunkLength switch { 1 => static (chunks, pinned, uninitialized) => AllocateArray<ElementChunk1<T>>(chunks, pinned, uninitialized), ..., 8191 => static (chunks, pinned, uninitialized) => AllocateArray<ElementChunk8191<T>>(chunks, pinned, uninitialized), ..., 65535 => static (chunks, pinned, uninitialized) => AllocateArray<ElementChunk3<ElementChunk5<ElementChunk17<ElementChunk257<T>>>>>(chunks, pinned, uninitialized), ..., _ => throw new UnreachableException(), };}實際的 switch 有 510 個 case,這樣的類型不能被加載,對於
byte

