说我有一个网站在
http://example.com.我真的希望允许机器人看到主页,但任何其他页面需要阻止,因为它是无意义的蜘蛛。换一种说法
http://example.com&应该允许http://example.com/,但是
http://example.com/anything和http://example.com/someendpoint.aspx应该被阻止。
此外,如果我允许某些查询字符串传递到主页,那将是很好的
http://example.com?okparam=true