GUI 返回 Connection reset，需要确认是不是 server 已经宕机了，GUI 和server的连接断开造成的报错。
您的情况大概率是 oom 了，进程被操作系统 kill 掉了。在linux命令行执行以下命令
dmesg -T|grep dolphindb
如上图，若出现了“Out of memory: Kill process”，说明DolphinDB使用的内存超过了操作系统所剩余的空闲内存，导致操作系统杀死了DolphinDB进程。
您的情况，如果确定是oom造成的，那么请确认一下 docker 容器实际能使用的内存是多少，您的截图中在 docker 中使用 free 命令返回的是宿主机的信息，docker容器本身可以限制内存数，所以容器内存不一定有图上查出来那么大。
如果不是上述oom的情况，继续查看dolphindb日志、操作系统日志、coredump可以定位具体的宕机原因，具体参考教程：https://gitee.com/dolphindb/Tutorials_CN/blob/master/how_to_handle_crash.md