WebBrowser はデフォルトの状態だと Internet Explorer 7 として動作します。
最新バージョンの Internet Explorer 11 で動作させるためにはレジストリを書き換える必要があります。

1. レジストリエディタを起動します
   • タスクバーの左にある[スタート]を右クリックして表示されるメニューの[ファイル名を指定して実行(R)]をクリック
     
   • 名前欄に「regedit」を入力して[OK]をクリック
     
2. HKEY_LOCAL_MACHINE に追加しても良いが、現在のユーザーのみで動作すれば良いので HKEY_CURRENT_USER に追加します
   
3. SOFTWARE を開きます
   
4. Microsoft を開きます
   
5. Internet Explorer を開きます
   
6. main を開きます
   
7. FeatureControl を開きます
   
   FeatureControl がない場合は main を右クリックして新規作成します
   
8. FEATURE_BROWSER_EMULATION がない場合は上記 FeatureControl 同様新規作成します
   FEATURE_BROWSER_EMULATION を右クリックして [新規] → [DWORD (32ビット)値] を選択します
   
9. 値の名前に実行ファイル名を入力します
   表記で[10進数]を選択し、値のデータに使用したいIEのバージョンの数値を入力します
   Internet Explorer 11 の場合「11001」を入力します
   

自分でソフトを使用する場合はレジストリを書き換えられますが、他の人に使って貰う場合レジストリを書き換えてもらうことはハードルが高いですよね。
下記はプログラムでレジストリを書き換える方法です。
レジストリに自ソフトが登録されていない場合のみ登録するようにしています。

'アセンブリ名を取得する
Dim asm As Reflection.Assembly = Reflection.Assembly.GetExecutingAssembly()
Dim strExeName As String = asm.ManifestModule.Name

Dim regkey As Microsoft.Win32.RegistryKey = Nothing
Dim RegkeyPtath As String = "Software\Microsoft\Internet Explorer\Main\FeatureControl\FEATURE_BROWSER_EMULATION"
Try
    regkey = Microsoft.Win32.Registry.CurrentUser.OpenSubKey(RegkeyPtath, False)
    Dim blnRegFlg As Boolean = False
    If regkey IsNot Nothing Then
        If regkey.GetValue(strExeName) = Nothing Then
            blnRegFlg = True
        End If
    Else
        blnRegFlg = True
    End If
    If blnRegFlg Then
        Dim intBrowserVersion As Integer = 11001    'Internet Explorer 11 Edgeモード に設定
        regkey = Microsoft.Win32.Registry.CurrentUser.CreateSubKey(RegkeyPtath)
        regkey.SetValue(strExeName, intBrowserVersion, Microsoft.Win32.RegistryValueKind.DWord)
    End If
Catch ex As Exception
    'エラーは無視
    Console.WriteLine(ex.Message)
Finally
    If regkey IsNot Nothing Then
        regkey.Close()
    End If
End Try