适合C# Actor的消息执行方式（6）：协变与逆变
2009-08-03 09:19 by 老赵, 8066 visits在上一篇文章中，我们实现了一个简单的爬虫，并指出了这种方式的缺陷。现在，我们就来看一下，如何使用C# 4.0中所引入的“协变和逆变”特性来改进这种消息执行方式，这也是我认为在“普适Actor模型”中最合适的做法。这次，我们动真格的了，我们会一条一条地改进前文提出的缺陷。
协变与逆变
在以前的几篇文章中，我们一直挂在嘴边的说法便是消息于Actor类型的“耦合”太高。例如在简单的爬虫实现中，Crawler接受的消息为Crawl(Monitor, string)，它的第一个参数为Monitor类型。但是在实际应用中，这个参数很可能需要是各种类型，唯一的“约束”只是它必须能够接受一个ICrawlResponseHandler类型的消息，这样我们就能把抓取的结果传递给它。至于操作Crawler对象的是Monitor还是Robot，还是我们单元测试时动态创建的Mock对象（这很重要），Crawler一概不会关心。
但就是这个约束，在以前的实现中，我们必须让这个目标继承Actor<ICrawlResponseHandler>，这样它也就无法接受其他类型的消息了。例如Monitor还要负责一些查询操作我们该怎么办呢？幸运的是，在.NET 4.0中，我们只需要让这个目标实现这样一个接口即可：
public interface IPort<out T> { void Post(Action<T> message); }
瞅到out关键字了没？事实上，还有一个东西您在这里还没有看到，这便是Action委托在.NET 4.0中的签名：
public delegate void Action<in T>(T obj);
就在这样一个简单的示例中，协变和逆变所需要的in和out都出现了。这意味着如果有两个类型Parent和Child，其中Child是Parent的子类（或Parent接口的实现），那么实现了IPort<Child>的对象便可以自动赋值给IPort<Parent>类型的参数或引用1。使用代码来说明问题可能会更清楚一些：
public class Parent { public void ParentMethod() { }; } public class Child : Parent { } static void Main(string[] args) { IPort<Child> childPort = new ChildPortType(); IPort<Parent> parentPort = childPort; // 自动转化 parentPort.Post(p => p.ParentMethod()); // 可以接受Action<Parent>类型作为消息 }
这意味着，我们可以把ICrawlRequestHandler和ICrawlResponseHandler类型写成下面的形式：
internal interface ICrawlRequestHandler { void Crawl(IPort<ICrawlResponseHandler> collector, string url); } internal interface ICrawlResponseHandler { void Succeeded(IPort<ICrawlRequestHandler> crawler, string url, string content, List<string> links); void Failed(IPort<ICrawlRequestHandler> crawler, string url, Exception ex); }
如今，Monitor和Crawler便可以写成如下模样：
internal class Crawler : Actor<Action<Crawler>>, IPort<Crawler>, ICrawlRequestHandler { protected override void Receive(Action<Crawler> message) { message(this); } #region ICrawlRequestHandler Members void ICrawlRequestHandler.Crawl(IPort<ICrawlResponseHandler> collector, string url) { try { string content = new WebClient().DownloadString(url); var matches = Regex.Matches(content, @"href=""(http://[^""]+)""").Cast<Match>(); var links = matches.Select(m => m.Groups[1].Value).Distinct().ToList(); collector.Post(m => m.Succeeded(this, url, content, links)); } catch (Exception ex) { collector.Post(m => m.Failed(this, url, ex)); } } #endregion } public class Monitor : Actor<Action<Monitor>>, IPort<Monitor>, ICrawlResponseHandler { protected override void Receive(Action<Monitor> message) { message(this); } #region ICrawlResponseHandler Members void ICrawlResponseHandler.Succeeded(...) { ... } void ICrawlResponseHandler.Failed(...) { ... } #endregion private void DispatchCrawlingTasks(IPort<ICrawlRequestHandler> reusableCrawler) { if (this.m_readyToCrawl.Count <= 0) { this.WorkingCrawlerCount--; } var url = this.m_readyToCrawl.Dequeue(); reusableCrawler.Post(c => c.Crawl(this, url)); while (this.m_readyToCrawl.Count > 0 && this.WorkingCrawlerCount < this.MaxCrawlerCount) { var newUrl = this.m_readyToCrawl.Dequeue(); IPort<ICrawlRequestHandler> crawler = new Crawler(); crawler.Post(c => c.Crawl(this, newUrl)); this.WorkingCrawlerCount++; } } }
Monitor的具体实现和上篇文章区别不大，您可以参考文章末尾给出的完整代码，并配合前文的分析来理解，这里我们只关注被标红的两行代码。
在第一行中我们创建了一个Crawler类型的对象，并把它赋值给IPort<ICrawlerRequestHandler>类型的变量中。请注意，Crawler对象并没有实现这个接口，它只是实现了IPort<Crawler>及ICrawlerRequestHandler。不过由于IPort<T>支持协变，于是IPort<Crawler>被安全地转换成了IPort<ICrawlerRequestHandler>对象。
第二行中再次发生了协变：ICrawlRequestHandler.Crawel的第一个参数需要IPort<ICrawlResponseHandler>类型的对象，但是this是Monitor类型的，它并没有实现这个接口。不过，和上面描述的一样，由于IPort<T>支持协变，因此这样的类型转化是安全的，允许的。于是在Crawler类便可以操作一个“抽象”，而不是具体的Monitor类型来办事了。
神奇不？但就是这么简单。
“内部”消息控制
在上一篇文章中，我们还提出了Crawler实现的另一个缺点：没有使用异步IO。WebClient本身的DownloadStringAsync方法可以进行异步下载，但是如果在异步完成的后续操作（如分析链接）会在IO线程池中运行，这样我们就很难对任务所分配的运算能力进行控制。我们当时提出，可以把后续操作作为消息发送给Crawler本身，也就是进行“内部”消息控制——可惜的是，我们当时无法做到。不过现在，由于Crawler实现的是IPort<Crawler>接口，因此，我们可以把Crawler内部的任何方法作为消息传递给自身，如下：
internal class Crawler : Actor<Action<Crawler>>, IPort<Crawler>, ICrawlRequestHandler { protected override void Receive(Action<Crawler> message) { message(this); } #region ICrawlRequestHandler Members public void Crawl(IPort<ICrawlResponseHandler> collector, string url) { WebClient client = new WebClient(); client.DownloadStringCompleted += (sender, e) => { if (e.Error == null) { this.Post(c => c.Crawled(collector, url, e.Result)); } else { collector.Post(c => c.Failed(this, url, e.Error)); } }; client.DownloadStringAsync(new Uri(url)); } private void Crawled(IPort<ICrawlResponseHandler> collector, string url, string content) { var matches = Regex.Matches(content, @"href=""(http://[^""]+)""").Cast<Match>(); var links = matches.Select(m => m.Groups[1].Value).Distinct().ToList(); collector.Post(c => c.Succeeded(this, url, content, links)); } #endregion }
我们准备了一个private的Crawled方法，如果抓取成功了，我们会把这个方法的调用封装在一条消息中重新发给自身（红色代码）。请注意，这是个私有方法，因此这里完全是在做“内部”消息控制。
开启抓取任务
在上一篇文章中，我们为Monitor添加了一个Start方法，它的作用是启动URL。我们知道，对单个Actor来说消息的处理是线程安全的，但是这个前提是使用“消息”传递的方式进行通信，如果直接调用Start公有方法，便会破坏这种线程安全特性。不过现在的Monitor已经不受接口的限制，可以自由接受任何它可以执行的消息，因此我们只要对外暴露一个Crawl方法即可：
public class Monitor : Actor<Action<Monitor>>, IPort<Monitor>, ICrawlResponseHandler, IStatisticRequestHandelr { ... public void Crawl(string url) { if (this.m_allUrls.Contains(url)) return; this.m_allUrls.Add(url); if (this.WorkingCrawlerCount < this.MaxCrawlerCount) { this.WorkingCrawlerCount++; IPort<ICrawlRequestHandler> crawler = new Crawler(); crawler.Post(c => c.Crawl(this, url)); } else { this.m_readyToCrawl.Enqueue(url); } } }
于是我们便可以向Monitor发送消息，让其抓取特定的URL：
string[] urls = { "http://www.cnblogs.com/dudu/", "http://www.cnblogs.com/TerryLee/", "http://www.cnblogs.com/JeffreyZhao/" }; Random random = new Random(DateTime.Now.Millisecond); Monitor monitor = new Monitor(10); foreach (var url in urls) { var urlToCrawl = url; monitor.Post(m => m.Crawl(urlToCrawl)); Thread.Sleep(random.Next(1000, 3000)); }
上面的代码会每隔1到3秒发出一个抓取请求。由于我们使用了消息传递的方式进行通信，因此对于Monitor来说，这一切都是线程安全的。我们可以随时随地为Monitor添加抓取任务。
接受多种消息（协议）
我们再观察一下Monitor的签名：
class Monitor : Actor<Action<Monitor>>, IPort<Monitor>, ICrawlResponseHandler
可以发现，如今的Monitor已经和它实现的协议没有一对一的关系了。也就是说，它可以添加任意功能，可以接受任意类型的消息，我们只要让它实现另一个接口即可。于是乎，我们再要一个“查询”功能2：
public interface IStatisticRequestHandelr { void GetCrawledCount(IPort<IStatisticResponseHandler> requester); void GetContent(IPort<IStatisticResponseHandler> requester, string url); } public interface IStatisticResponseHandler { void ReplyCrawledCount(int count); void ReplyContent(string url, string content); }
为了让Monior支持查询，我们还需要为它添加这样的代码：
public class Monitor : Actor<Action<Monitor>>, IPort<Monitor>, ICrawlResponseHandler, IStatisticRequestHandelr { ... #region IStatisticRequestHandelr Members void IStatisticRequestHandelr.GetCrawledCount(IPort<IStatisticResponseHandler> requester) { requester.Post(r => r.ReplyCrawledCount(this.m_urlContent.Count)); } void IStatisticRequestHandelr.GetContent(IPort<IStatisticResponseHandler> requester, string url) { string content; if (!this.m_urlContent.TryGetValue(url, out content)) { content = null; } requester.Post(r => r.ReplyContent(url, content)); } #endregion }
最后，我们来尝试着使用这个“查询”功能。首先，我们编写一个测试用的TestStatisticPort类：
public class TestStatisticPort : IPort<IStatisticResponseHandler>, IStatisticResponseHandler { private IPort<IStatisticRequestHandelr> m_statisticPort; public TestStatisticPort(IPort<IStatisticRequestHandelr> statisticPort) { this.m_statisticPort = statisticPort; } public void Start() { while (true) { Console.ReadLine(); this.m_statisticPort.Post(s => s.GetCrawledCount(this)); } } #region IPort<IStatisticResponseHandler> Members void IPort<IStatisticResponseHandler>.Post(Action<IStatisticResponseHandler> message) { message(this); } #endregion #region IStatisticResponseHandler Members void IStatisticResponseHandler.ReplyCrawledCount(int count) { Console.WriteLine("Crawled: {0}", count); } void IStatisticResponseHandler.ReplyContent(string url, string content) { ... } #endregion }
当调用Start方法时，控制台将会等待用户敲击回车键。当按下回车键时，TestStatisticPort将会向Monitor发送一个IStatisticRequestHandler.GetCrawledCount消息。Monitor回复之后，屏幕上便会显示当前已经抓取成功的URL数目。例如，我们可以编写如下的测试代码：
static void Main(string[] args) { var monitor = new Monitor(5); monitor.Post(m => m.Crawl("http://www.cnblogs.com/")); TestStatisticPort testPort = new TestStatisticPort(monitor); testPort.Start(); }
随意敲击几下回车，结果如下：
总结
如今的做法，兼顾了强类型检查，并使用C# 4.0中的协变和逆变特性，把上一篇文章中提出的问题解决了，不知您是否理解了这些内容？只可惜，我们在C# 3.0中还没有协变和逆变。因此，我们还必须思考一个适合C# 3.0的做法。
顺便一提，由于F#不支持协变和逆变，因此本文的做法无法在F#中使用。
相关文章
- 适合C# Actor的消息执行方式（1）：Erlang中的模式匹配
- 适合C# Actor的消息执行方式（2）：C# Actor的尴尬
- 适合C# Actor的消息执行方式（3）：中看不中用的解决方案
- 适合C# Actor的消息执行方式（4）：阶段性总结
- 适合C# Actor的消息执行方式（5）：一个简单的网络爬虫
- 适合C# Actor的消息执行方式（6）：协变与逆变
注1：关于协变和逆变特性，我认为脑袋兄的这篇文章讲的非常清楚——您看得头晕了？是的，刚开始了解协变和逆变，以及它们之间的嵌套规则时我也头晕，但是您在掌握之后就会发现，这的确是一个非常有用的特性。
注2：不知您是否发现，与之前internal的Crawl相关接口不同，Statistic相关接口是public的。我们在使用接口作为消息时，也可以通过这种办法来控制哪些消息是可以对外暴露的。这也算是一种额外的收获吧。
我最喜欢老赵的文章，虽然有些看不懂。