这两个哪个正确

because of my excellent ability OF DESIGNING software 对!

两个都对的。
the ability to do sth，做某事的能力，算是比较常见的搭配吧
the ability of sth,这里加名次短语阿，你用动名词可以的。

后者正确。
ability多数跟of,表示什么什么的能力。

because of my excellent ability OF DESIGNING software .
of 是表属性的意思。才能是本身具有的啊

because of my excellent ability OF DESIGNING software 这个是正确的，第一个的DESIGN表示图案的意思，第二个的DESIGNING表示狡猾的意思。

obviously the second