ウェブクロールにおけるユーザーエージェントとは、ユーザーの代わりにウェブサイトを閲覧、アクセス、操作するソフトウェアアプリケーションまたはプログラムを指します。ウェブブラウザをシミュレートし、ウェブサイトにHTTPリクエストを送信してウェブページを取得し、インデックス作成、データ集計、スクレイピングなどのさまざまな目的で関連情報を抽出します。