【2/N】 Performance Improvements in .NET 8

[ufcpp]

配信URL: https://www.youtube.com/watch?v=0rkkqdACWsc

前回

終わらない配信。

• Exceptions
  • .NET 6 のときの ArgumentNullException.ThrowIfNull みたいなの、いくつか追加
  • .NET 7: ArgumentException.ThrowIfNullOrEmpty, ObjectDisposedException.ThrowIf
  • .NET 8: ArgumentException.ThrowIfNullOrWhiteSpace, ArgumentOutOfRangeException
  • 例外を出す部分は別メソッドに分離してる方が、そのほかの部分のインライン展開とか聞きやすくて有利
  • 同様の if → throw を自分で書くよりも、この手のメソッド呼ぶ方が速そう
    • if を置き換える code fix も提供されてる
• Reflection
  • キャッシュ持つようになって、GetCustomAttributes とかのパフォーマンス改善
  • GetGenericTypeDefinition
  • MethodBase.Invoke、計算にコストかかる部分をキャッシュ
• Primitives
  • Enums
  • Enum.GetValues用の値、ulongで持ってたのをgenericにしてunderlying typeの配列に変更
  • enum値が0からの連番の時の最適化(検索挟まず、ただの配列アクセスする)パス追加
  • ISpanFormattable になったりで文字列補間が高速に
  • Numbers
  • Format時の桁数計算、テーブルを使って分岐をなくした
  • 10で割って各桁 → 100で割って2桁ずつ に変更
  • 0.ToString() とかでテーブルから "0" を返してたの、0～9まで だったのを 0～299 までで同じことやるように
  • b フォーマット(ToString("b") で2進数文字列化)
  • IUtf8SpanFormattable (ISpanFormattable と実装共有しててパフォーマンスほぼ一緒、共有化で CoreLib が2000行減った)
  • MMM (月名)とかのとき、InvariantCulture 用(jan ～ dec 決め打ち)最適化
  • めったに使わないデータの遅延初期化
  • DateTime
  • s とか u フォーマット用の専用ルーチン実装
  • Guid
  • Random
  • 剰余演算を 乗算+シフト で代用するアルゴリズム導入
• Strings, Arrays, and Spans
  • UTF8
  • IUtf8SpanFormattable
  • Utf8.TryWrite が C# 10 の文字列補間ハンドラーを使って高速化
  • 定数文字列の UTF-8 エンコードを intrinsics 化して JIT 時最適化
  • 結果、 Span<char> TryFormat と Utf8.TryFormat がほぼ同パフォーマンス
  • ASCII
  • System.Text.Ascii クラス
  • Base64
  • Hex
  • String Formatting
  • CompositeFormat 書式を最初に1回だけパースしておいて、以後の Format を高速に
  • Spans
  • Span 向けの Replace, Split, SplitAny
  • IndexOfAnyInRange, IndexOfAnyExceptInRange
  • プリミティブだけで構成された構造体の Span の SequenceEqual が bitwise 比較(box 回避 + vectorize)されるように
  • MemoryMarshal.ToEnumerable が「中身が配列 or string のときの最適化」でだいぶ高速に
  • SearchValues
  • Stephen 曰く「Dynamic PGO の次に熱い」
  • IndexOfAny は渡す文字セットによって最適なアルゴリズムが違うし、アルゴリズムで使うデータ構造も違うので、それを初期化時に判定・データ構築して以後の検索を高速に
    • ブルームフィルターってアルゴリズムで使う確率マップとか
    • JSON とか URL エスケープとか、Span EnumerateLines が高速に
  • Regex
  • 上記 IndexOf 亜種とか SearchValues を使うように
  • Hashing
  • Initialization
  • 1バイトデータ型以外で ReadOnlySpan 最適化かかるように(RuntimeHelpers.CreateSpan 利用)
  • DaysToMonth365 とかが高速に
  • Analyzers
  • IndexOf() == 0 → StartsWith
  • StartsWith(1文字 string) → StartsWith(char)
  • ToUpperInvariant().StartsWith → StartsWith(, OrdinalIgnoreCase)
• Collections
  • General
  • 空コレクションの GetEnumerator がシングルトンを返す
  • List
  • List.AddRange 高速化、AddRange(ReadOnllySpan) 追加
  • SetCount (CollectionsMarshal.AsSpan 前に事前に List のサイズ変更できるように)
  • LINQ
  • 上記 SetCount 大活躍(ToList とか)
  • Order とかで、元の位置に区別がつかない型の場合に不安定ソート使うように
  • OrderBy とかで、キーが値型の時の専用パス追加
  • Dictionary
  • KeyValuePair 用 ToDictionary
  • ContainsKey → Add してるコードを TryAdd に書き換えるアナライザー
  • string.GetHashCode のランダム化を、衝突が大きくなりすぎるまではやらない(わざと衝突を狙うDOS攻撃手法がある)
  • Frozen Collections
  • 初期化時にコストかけて最適なアルゴリズムに分岐して、その後の read を高速に
  • 今ある Immutable 系コレクションは「Add するときは新インスタンス作って、元のインスタンスは不変」前提で Add が速い(Read はちょっと遅い)
  • Frozen は「初期が後に Add することは考えず、その時点のキーを元に最適な構造を作る」(Read が速い)
  • 文字列キーだと Length-based 分岐とかやってる(要素が一定数以下の時だけ)
  • 整数キーなら値そのものをハッシュ値にする
  • Immutable Collections
  • ImmutableArray に、内部で新規配列 new しない、外から渡された配列をそのまま所有する ImmutableCollectionsMarshal.AsImmutableArray 追加
  • ImmutableList.Create に ReadOnlySpan オーバーロード
  • BitArray
  • HasAnySet, HasAllSet
  • Collection Expressions
• File I/O
  • async-over-sync になっちゃってる非同期メソッドがちゃんとキャンセルかかるように
  • Path.GetTempFileName、Windows で (Win32 の) GetTempFileNameW (生成したパスが衝突しやすいらしい)を使うのやめた
  • Path.GetFileName、LastIndexOfAny のおかげで速く
  • GetFolderPath(SpecialFolder.System) より SystemDirectory の方が速いらしく、それに切り替えたコードあり
  • TextWriter.Null (/dve/null 的なことしたいときに Console.SetOut(TextWriter.Null) とかやる)
• Networking
  • Networking Primitives
  • IPv6 アドレス、Vector128 を利用して高速化
  • IPAddress も ISpanFormattable/IUtf8SpanFormattable に
  • Sockets
  • Windows で ReceiveFromAsync 時に GCHandle で Pin する量を減らした
  • SendTo とかに SocketAddress を受け取るオーバーロード追加
  • TLS
  • SslStream アロケーション削減
  • Read バッファーに十分なデータがないとき、一度 0 バイト Read を挟む (この方が Pin 頻度が減る)
  • HTTP
  • IndexOfAny, Span, ArrayPool 利用
  • long? をやめて「無効な時は負数入れとく」みたいなことやってメモリ節約
• JSON
  • 汎用 DeserializeAsync が JSON Source Generator が生成した Handler をちゃんと呼ぶように
• Crytography
• Logging
  • LoggerFactory.CreateLogger のキャッシュ管理を Dictionary → ConcurrentDictionary で lock 低減
  • LoggerMessage.Define が CompositeFormat を使うように
• Configuration
  • ConfigurationBuilder.Bind が source generator (interceptor) 利用に
  • OptionsValidator も source generator
• Peanut Butter
  • MemoryStream.GetBuffer 活用
  • Substring → AsSpan/Slice
  • stackalloc, ArrayPool で配列アロケーション削除
  • SafeHandle やめて単に try-catch で生ハンドル操作
  • string の + を文字列補間に
  • .UTF8.GetBytes を u8 リテラルに
• What’s Next?

[ufcpp-live]

try
{

}
catch(Exception e)
{
    //throw e; // これやると元の例外のスタックトレース消えるよ
    throw; // これやると元の例外のスタックトレースが保持されるよ
}

static int m(string s)
{
    // ThrowIfNull の方が(きれいというだけじゃなく)パフォーマンスいい
    if (s is null) throw new ArgumentNullException(nameof(s));
    return s.Length;
}

// ThrowIfNull 以前から、dotnet/runtime 内にはこんなメソッド山ほどあった。
static void Throw()
{
    throw new ArgumentNullException();
}

[ufcpp-live]

// 0～299 まではキャッシュ返す。
Console.WriteLine(ReferenceEquals(0.ToString(), 0.ToString()));
Console.WriteLine(ReferenceEquals(9.ToString(), 9.ToString()));

// .NET 7 時点では0～9までだったらしい。
// .NET 8 で299まで。
Console.WriteLine(ReferenceEquals(299.ToString(), 299.ToString()));

// ここから false。
Console.WriteLine(ReferenceEquals(300.ToString(), 300.ToString()));

[ufcpp-live]

using System.Runtime.CompilerServices;

object x = 1; // box
object y = 1; // 別途新たに box

Unsafe.Unbox<int>(x) = 2;

Console.WriteLine(x);
Console.WriteLine(y); // 今、ちゃんと1。Java の Integer みたいに box キャッシュすると2になっちゃうはず

[ufcpp-live]

var x = "abc";

unsafe
{
    fixed (char* p = x)
    {
        p[0] = 'd';
    }
}

Console.WriteLine("abc"); // dbc
// これができちゃうんで、boxed int の Unsafe.Unbox あっても別にキャッシュしてもいいかも？

[ufcpp-live]

using System.Runtime.CompilerServices;

ReadOnlySpan<byte> data = [1, 2, 3, 4];

Unsafe.AsRef(in data[0]) = 5; // これは AccessViolation

[ufcpp-live]

using System.Runtime.CompilerServices;

var x = 299.ToString();

Unsafe.AsRef(in x.GetPinnableReference()) = 'A';

Console.WriteLine(299); // A99

M　o　d　u　l　e　I　n　i　t　i　a　l　i　z　e　r

using System.Runtime.CompilerServices;

for (int i = 0; i < 300; ++i)
    Console.WriteLine(i);

class A
{
    [ModuleInitializer]
    public static void Init()
    {
        for (int i = 0; i < 300; ++i)
            Unsafe.AsRef(in i.ToString().GetPinnableReference()) = ' ';
    }
}

[ufcpp-live]

ReadOnlySpan<char> s = "abc\tdef\tghi";
var ranges = (stackalloc Range[5]);
var num = s.Split(ranges, '\t');

foreach (var r in ranges[..num])
{
    var span = s[r];
}