The By Color command is an alternate way of accessing the 「Select By Color」 tool, one of the basic selection tools. You can find more information about using this tool in Select By Color.
画像ウィンドウのメニューより 選択 → 色域を選択
キーボードショートカット Shift+O